狙い撃ちLoRAが違法になるとき　画像生成AIユーザーが読む「文化庁素案」 (Pixiv Fanbox)

こんにちは、スタジオ真榊です。先日来、文化庁が公表した「ＡＩと著作権に関する考え方について（素案）」という文書が大きな話題となっていますね。

この素案が示されたのは第5回目（2023年12月20日開催）の「文化審議会著作権分科会法制度小委員会」。今後の流れとしては、１～２月にパブリックコメントを募集したのち、3月には報告書が取りまとめられ、公表されることになっています。本日はこの素案を題材に、改めて我々画像生成ユーザーに最も関わってくるであろう「狙い撃ちLoRAの学習・利用それぞれにおける違法性」に絞って、何が書かれていたか振り返ってみたいと思います。

文化庁素案はいわゆる「無断学習」の違法性の問題や狙い撃ちLoRAの問題、AI生成物の著作権についてなど、非常に多岐にわたる疑問を拾い上げたもので、専門家からも非常に練られた内容だと評価されています。既に弁護士や大学教授といった著作権の専門家の皆様から論評や解説が出ておりますので、全体の解説についてはそちらに譲るとして、この記事ではあくまでいち画像生成AIユーザーの立場から「画像生成AIの学習・利用において、素案にはどんなことを注意すべきと読めるか」「どういう行為を行うと、どんなリスクが生じるか」を考えてみたいと思います。

もくじ

「表現」は保護される / 「アイデア」は保護されない

素案の論点整理

【第一章】LoRA"学習"が違法になるケース

　①学習したイラストを「享受」する・させる目的があったとき

　　ー　LoRA学習でも重要な「二分論」

　　ー　どのレベルからアウト？

　　ー　結局どんなLoRAがリスク高いの？

　②学習したイラストがもたらすはずの利益を「不当に害する」とき

　③学習防止措置を回避したとき

　④海賊版から学習したときは？

　LoRA学習で著作権侵害したらどうなる？

【第二章】LoRA"利用"が違法になるケース

まとめ

終わりに

【重要】今回の素案は、あくまで「現行法をさまざまなAIと著作権の問題にあてはめると、普通どのように解釈されるか」という考え方を示すために、行政の立場から出された「素案」にすぎません。ある行為が違法かどうかは、最終的には個々に裁判所が決めること（司法判断）であり、素案に書かれていることは「決定事項」や「新しい法解釈」などではありません。

　このFANBOX記事はあくまで「法律の専門家ではないAIユーザーが個人的にどう受け止めたか」「狙い撃ちLoRAについて書かれているとみなしたとき、どう読めるか」を書いたものです。素案の文章解釈は法曹家の間で必ずしも統一的ではなく、また今後変更される可能性が高いこともご留意ください。

「表現」は保護される / 「アイデア」は保護されない

「画風やキャラクターには著作権がない」という言葉を聞いたことがある人は多いと思います。著作権法が保護するのは「表現上の本質的な特徴を直接感得できるもの」、つまり創作的表現であって、画風やキャラクターはそうではない「アイデア」にとどまるという考え方で、「アイディアと表現の二分論」と呼ばれています。例えばうる星やつらの「ラムのラブソング」を著作権保護するときに、アイデアレベルの要素まで誤って保護対象としてしまうと、「私だけ愛して」とか「好きと繰り返す」といった歌詞のラブソングが一切作れないことになってしまう。真似してよいものといけないものを分けるのは、著作権法においてとても重要な基本なのです。

この二分論を根拠に「作風を再現するクリエイター画風LoRAや、キャラクターを再現するキャラLoRAは著作権法上すべて合法」と考えている人は少なくないようです。また、よく話題に上る「著作権法第30条の4」によって、LoRA学習を含めたAI学習（※正確には、学習のための教師データ複製）は全て合法だと考えている人も多いでしょう。

実際、狙い撃ちLoRAの違法性についてどう考えるか、画像生成AIユーザーにアンケートを採ったところ、次の様な結果が出ており、「すべて合法」と考える人が一定数いることが裏付けられています。

※「狙い撃ちLoRA」という言葉はまだできたばかりで定義揺れがありますが、この記事ではいわゆる「特定イラストレーターの画風LoRA」など、特定の企業または人物が権利を持つ画像を複数枚（多くの場合は数十枚程度）集中学習し、作風・画風やモチーフを再現するためのLoRAのことをこう呼ぶことにします。

狙い撃ちLoRAや絵柄模倣、貴方はどう思う？画像生成AIユーザー緊急アンケート

こんにちは、スタジオ真榊です。今回は全体公開記事なので、簡単に自己紹介しますと、１年前から100本以上ずーっと画像生成AIの技術検証記事を書いてる変な人です。自己紹介終わり。 さて、今日は先日X（Twitter）上で行った「画像生成AIユーザー向けアンケート」の結果発表と、その考察を記事にしました。AIを使って特...

では、この点について「素案」がどう記述したのか、さっそく見ていきましょう。

素案の論点整理

素案にはこれまでに有識者が議論してきた内容が多数盛り込まれており、大変長い内容となっているのですが、AIの学習・利用に関連している部分を「LoRA学習・利用の場合に言い換えて」抜粋しますと、次のように整理できます。

▶LoRAの学習

・イラストのLoRA学習はどういうときに違法になるのか？

　ー　①学習したイラストを「享受」する・させる目的があったときは？

　ー　②学習したイラストが権利者にもたらすはずの利益を不当に害するときは？

　ー　③学習防止措置を回避して学習させたときは？

　ー　④海賊版を学習させたときは？

・違法なLoRA学習を行ったとき、学習者はどんな責任を負うか？

・クリエイターが学習を拒否している著作物を学習するとどうなるか？

▶LoRAの利用

・イラストのLoRA利用はどういうときに違法になるのか？

・違法なLoRA利用を行ったとき、生成者はどんな責任を負うか？

まずは「イラストのLoRA学習はどういうときに違法になるのか？」を一つずつ見ていきましょう。

【第一章】LoRA"学習"が違法になるケース

まずは、LoRAの学習が違法になるのはどんなケースかを整理してみましょう。今回の素案では、AIの生成・利用段階よりも学習についてより多くの紙幅を割いて説明していますので、この記事でもLoRA学習をするときはどんなことに注意すべきかを中心に見ていこうと思います。上記①～④までの項目について、順番に振り返っていきましょう。

①学習したイラストを「享受」する・させる目的があったとき

ここの読解には著作権法第30条の4についての理解が不可欠ですので、条文を引用するところから始めます。

（著作物に表現された思想又は感情の享受を目的としない利用）

第三十条の四　著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。

ざっくり言うと、LoRA学習を行うとき、他人のイラストを「自ら享受し又は他人に享受させることを目的としない場合」には、「必要な限度」で、クリエイターに同意を得ずにダウンロード（複製）や利用を行うことができます。ただし、野放図に利用し放題なわけではなく「著作権者の利益を不当に害することとなる場合」にはその特例は使えない、というのが基本になります。ただ、どんなときに「著作権者の利益を不当に害する」ことになるかが、とても分かりにくい。「享受って何なの？どんな学習が非享受目的で、どう違ったら享受目的になるの？」となりますね。

▲素案3pより。「ひとつでも享受目的が含まれていれば30条の4の要件を欠く」

今回の素案は、まず「他人のイラストの利用が純粋にAIの学習目的だけなのであれば、基本的に合法ですよ」と説くところから始まります。ただ「ぶっちゃけ他にも目的があるとき」は、その限りではありません。他人のイラストをDL・利用した背景に複数の目的がある場合、「その中にひとつでも享受目的が含まれていれば、その行為は違法になっちゃうよ」とはっきり説明しています。では、LoRA学習においてその他人のイラストを「享受する目的」になるのはどういうときでしょうか。

素案は２つのパターンを例示しています（※これら以外のパターンが存在しないわけではない点に注意）

【A】LoRA学習っていうけど、ぶっちゃけ学習した絵を過学習させて、寸分違わずそのまんま生成するつもりだろ！

【B】寸分たがわずそのまんまではなくても、学習した絵への著作権侵害と言えるくらい激似のイラストを生成して利用するつもりだろ！

「A」は誰が聞いても違法ですね、見た目的にはAIイラストというより元画像そのものが出てくるわけですから。LoRAを悪用して、他人の絵をそっくり自分の絵とすることはできないよ、というのは誰でも分かることでしょう。

問題は、狙い撃ちLoRAを想定したと思われる「B」です。例えばONEPIECEのルフィの絵を数十枚学習したLoRAを作って、原作にはないルフィの絵を生成したとしましょう。いかにもAIっぽい絵柄の場合と、「えっこれ公式じゃないの？」と思えるレベルで絵柄が似ている場合では、法的扱いはどう違うのでしょうか。

LoRA学習でも重要な「二分論」

素案はここについて「学習データの著作物の表現上の本質的特徴を直接感得できる生成物を出力することが目的であると評価される場合は、享受目的が併存する」という大変むつかしい言葉で説明しています。

（▲素案4pの該当部分）

その上で、ざっくり言えば「特定クリエイターの作風を再現する狙い撃ちLoRAが流通しているみたいだけど、学習させたその人の作品群には模倣してもいい作風が共通するだけじゃなくて、模倣しちゃだめな表現が共通している場合もあることを忘れないでよ」と説いています。

（▲素案4p。特に後段が重要だが、非常に解読しにくい文章となっている）

これは、「そういう作品群を狙い撃ち学習してLoRAを作ると、模倣してもいい作風だけじゃなくて、模倣しちゃいけない表現まで再現できちゃうことがあって、そういうときは違法になりうるから注意が必要だよね」ということを示唆している文章と評価できるかと思います。

ここで語られているのは、まさに冒頭で説明した「アイデアと表現の二分論」です。生成画像の利用段階の注意点としてさんざん言われてきた「類似性」の要件と同じで、「アイデアや画風、キャラクター概念といったものは著作権保護されないけど、それを超えた表現は保護されるよ」ということで、つまりは「LoRAの学習目的が表現の模倣なのか？それとも表現未満のアイデアや画風にとどまるものの模倣なのか？によって決まるよ」と言うことですね。

これは大変難しいポイントです。明らかにAI絵柄っぽいルフィイラストは、公式絵に宿る何らかの「表現」を模倣しているのでしょうか？それとも画風や悟空という「キャラクター概念」を模倣しているにとどまるのでしょうか？そして、そうしたイラストを出せるLoRA学習の違法性はどう判断したらよいのでしょうか？

どのレベルからアウト？

いくつか考え方の例を挙げてみましょう。

・公式のルフィ絵と線が重なる「トレス」レベルが出るとアウト？

・線は重ならないが、ある公式絵をi2iしたレベルにほとんど構図や表情・服装・カラーが一緒なものが出るとアウト？

・どの公式絵にも似た構図はないけど、どう見ても公式絵にしか見えないクォリティの絵が出るとアウト？

・ぶっちゃけ公式絵には見えない、いかにもAI絵って感じの絵だけど、ルフィの絵だと誰でも分かる絵が出るとアウト？

・生成物のクォリティは関係なく、公式絵をLoRA学習した絵だからアウト？

・これらが一枚でも出るとアウト？

さまざまな意見があろうかと思いますが、ここに素案は具体的な答えを返してはいません。恐らくは個別具体的に司法（裁判所）が判断することだからで、個人的には「現時点で明快な答えはない」が答えだと考えています。

線が重なっていることを確認せずに著作権法違反と判断された判例はいくらでも存在しますし（例えばポパイネクタイ事件、サザエさんバス事件など）、パッと見でかなり似ているものでも侵害が否定された判例もあります（マンション読本事件など）。よく言われるのがBL同人誌事件。この中で、いわゆるBL絵柄にガッツリ寄せられているキャラクター同人誌は原作への侵害性はさほど高くないという判断が示されたのですが、真っ向から二次創作がセーフとされたわけではないので、この判例をもって「LoRA学習も絵柄が似ていなければセーフ」と言えるものではないように思えます（個人的感想です）。

少なくとも言えそうのは、「絵柄」「キャラ」「構図」「カラー」「吹き出し」「ポーズ」…などなどといった、絵を構成するさまざまな要素のうち模倣されているものが生成物の中で増えるほど、そしてその模倣度が強いほど、著作権侵害とみなされるリスクも増大していきそう、という一般論程度でしょうか。そもそもLoRAの効果は画一的なものではなく、Checkpointとの組み合わせによっても大きく変わるので、ケースバイケース過ぎてなんとも言いようがないーというのが個人的な感覚です。

結局どんなLoRAがリスク高いの？

とはいえ、全くの「ケースバイケース」では、安心してLoRAを作ることができませんよね。例えば、ダウンロードした人が何万枚と生成した中に学習した画像と類似性を持つ画像が偶然１枚紛れ込んだだけで「違法なLoRA学習」とみなされてしまうと、LoRAという技術全体、もっと言えばAI学習という枠組み全体が強い違法性を帯びかねません。

素案はこの点について「LoRAを使って著作権侵害と言えるイラストが出たら、即座に享受目的の学習と言えるわけじゃないよ」と一旦安心させてくれます。その一方で、「そういう著作権侵害イラストの生成が頻発するモデルだと、享受目的があったとみなされる可能性は高まりそうだね」とも釘を刺すのです。

▲素案4p。「30条の4適用が直ちに否定されるものではない」が･･･

　画像生成AIユーザーらしく読み解くなら、「CivitaiにいろいろなLoRAがあるけど、公式画像の焼き増しのようなものがバンバン出る（というかそういうのしか出てこない）LoRAは危ないかもよ」「でも１枚だけ公式にソックリな権利侵害イラストが出たからといって、すぐに学習全体が違法になるとまでは言ってないよ」というところでしょうか。

▲Civitaiのトップページ（スクリーンショット）

　個人的体験として、Civitaiにあった名作ゲーム「13機兵防衛圏」のあるキャラLoRAを使ってみたときに、そうした「ほぼ公式に見える画像しか出てこない」体験をしたことがあります。そういうLoRAはある意味高性能とも言えますが、逆に言えば極めて使いづらいLoRAでもあるわけです。蛇足かもしれませんが、そうしたLoRAをCivitaiで公開していて、知らないユーザーが著作権侵害事件を起こしたとき、版権元の企業からワンセットで訴えられるーというのが最悪のケースではないかなと思います。

　非常に重要なポイントなので大変長くなりましたが、ここまでが「①」の内容です。あとは②③④と続きますが、さらっと振り返るだけにとどめますのでご安心ください。

②学習したイラストがもたらすはずの利益を「不当に害する」とき

二つ目が、非常にXでいろいろ言われている「不当に害する」の説明です。むつかしい言葉で書かれているのですが、ざっくり言うと、

・30条の4の言う「不当に害する」は、「学習でパクられたとされている特定の画像」が生み出す利益についてで、これから得るはずだった未来の作品の利益は関係ないよ

・模倣したのがクリエイターの作風や画風（アイデア）だけで、ある作品を表現レベルで類似しているとは言えないなら、あるイラストの利益を「不当に害する」とは言えないよ（もちろん表現レベルで類似してたらダメだよ）

といったことが書かれています。「アイデアが類似したものが大量生成されることで、自分の市場が圧迫されるかもしれないという抽象的なおそれ」のみでは、30条の4の適用をはがせないということですね。

（▲素案6p。市場圧迫の抽象的おそれのみでは"不当に害する"とは言えない）

イラストレーターと画風LoRAの関係において言い換えるなら、

・自分の画風LoRAを公開されたからといって、それがただちに「あなたの将来の利益を不当に害する」わけではないよ

・問題になるのは、あなたが過去に描いた「ある特定のイラスト」がAI学習以外の目的（享受目的）で複製されることだよ

・あくまで作風や画風といったアイデアを模倣するための狙い撃ちLoRA学習なら問題ないよ。でも、そういうLoRAって結構「創作的表現」まで模倣する目的で作られてることない？もしそうなら30条の4は適用されず、著作権侵害になるよ

ーとなるでしょうか。ここでも、やはり二分論の考え方が繰り返し確認されていますね。ふんわり不快だからとか、学習は嫌だからということではなく、もっと具体的に何がパクられてどんな損害が出ているのか考える必要があるということでしょう。

③学習防止措置を回避したとき

今回の素案で、妙な形で話題になったのはこの③です。これもざっくり言うと、「将来データベースの著作物として販売するために、データの機械学習を回避する措置が講じられてるサイトってあるよね」「それを分かってて機械学習のためにデータ複製しちゃうのって違法だよね」ということです。

▲素案7p。「推認される場合」とは？

ここですぐ思いつくのが、「データを機械学習されたくない絵師さんは、自分の絵は将来データベースの著作物として売るつもりだぞと言えば機械学習のための複製を違法にできるんじゃないか」ということですね。素案はそこまで書いていないので断定することはできませんが、個人的にはこうした解釈はほぼ厳しいと思っています。

この条項は、恐らく日本新聞協会の主張をある程度受け容れたもので、新聞社のウェブ記事データの保護を想定しているものと思われます。そうした「明らかに将来販売する予定がある機械学習したらまずいデータ」の場合は理解できるのですが、「個人が学習を回避するためにデータベース販売の予定を立てたもの」も学習できないことにすると、非享受目的のまっとうなAI学習まで事実上不可能になってしまう恐れがあります。

こうした懸念について、素案は次のようなことをはっきり書いています。

「（著作権法の）権利制限規定の立法趣旨からすると、著作権者が反対の意思を示していることそれ自体をもって、権利制限規定の対象から除外されると解釈することは困難」

「機械的に判別できない方法による意思表示があることをもって権利制限規定の対象から除外してしまうと、学習データの収集を行う者にとって不測の著作権侵害を生じさせる懸念がある」

逆に言うと、学習拒否の意思表示によって学習（※正確には学習用データの複製など。以降同様に注意）が違法になるケースとは、「AI嫌悪などの理由ではなく、実際にデータベースの著作物を売ろうとしていることが推認できる著作権者であり」「学習データの収集を行うプログラムが機械的に学習拒絶意思を読み取れるような場合で」「故意にその措置を回避して複製したとき」であると読み取れます。禁止されるのはあくまで享受目的の学習（のためのデータ収集）であって、非享受目的である限り「無断学習」を拒否するのは困難であるということが強調されています。

④海賊版から学習したときは？

NovelAIがpixivのイラストを無断転載（フェアユースの可能性あり）しているdanbooruから学習したことはよく知られています。権利者が想定していない場所に勝手に掲載されていたイラストを学習された場合、その責任はどう考えるべきなのでしょうか。

この点について、素案はまず「SNSとかさ、めちゃくちゃ違法アップロードされた漫画コマとか引用要件満たしてない画像とかであふれてるやん？学習者が収集したデータをひとつひとつ海賊版かどうか見抜くのって難しいよね。収集データに一部そういう画像が含まれちゃうことはまず、ありえるんだってわかってね」と説明するところから始めます。その上で、「だけど、海賊版サイトだって知りながら、わざと学習データ収集すんのは遠慮しようよ。もしそうやって学習させたモデルで著作権侵害事例があったら、学習者の責任が強まることがあるよ」「また、事業者は学習によって海賊版サイトにカネが落ちるみたいなことにならないように注意してね」といったことを呼び掛けています。

ただ「海賊版と知りながらデータ収集することそのものが違法かどうか」について、素案は真っ向から断言する形では触れていません。この点は行政の立場から書きにくかったのだろうとは思いますが、そもそもウェブ全体から非享受目的で機械的かつ大量にデータ収集することを認める権利制限規定の趣旨からして、その中に海賊版が混じったらNGとするわけにはいかないのは当然ということなのだろうなと個人的に理解しています。

LoRA学習について言えば、例えば普通は無償でアクセスできないはずのデータを海賊版サイトから入手してキャラ再現LoRAや作家LoRAを作るケース（例えば漫画村からONEPIECEのコミックスを全巻無料DLしてきて学習させるなど）において問題になります。この場合、学習のための画像複製そのものというより、そのLoRAを使って著作権侵害を行った悪質ユーザーが出てきたときに、LoRA学習者にその責任が及ぶ可能性があるということになります。

LoRA学習で著作権侵害したらどうなる？

ここまでをまとめると、享受目的の画像収集とみなされたり、不当に利益を害しているとみなされたりして、第30条の4の適用が受けられず、他の権利制限規定も受けられなかった場合、権利者が許可していないLoRA学習は著作権侵害ということになります。その場合、AI 学習のための複製を行った人にはどんなペナルティがあるのでしょうか。

素案は「損害賠償請求（民法第 709 条）、侵害行為の差止請求（法第 112 条第１項）、将来の侵害行為の予防措置の請求（同条第２項）、刑事罰（法第 119 条）」などを挙げています。つまり、著作権侵害を故意にやらかした場合は権利者にお金を払うはめになったり、AI絵やそれを使った作品を差し止められたり、再発防止策をとらされたり、さらに故意または過失があった場合は起訴されて罰金や懲役刑といった刑事罰の対象になったりするかもしれない、ということです。ちょっと面白いのは、「著作権侵害が認められたら、LoRAを掲載差し止めしたり削除させたりできるか？」ということにも言及がある点。この記事では取り上げませんが、興味がある方は読んでみると良いでしょう。

以上が、LoRAを学習するときに違法になるケースとその責任について、素案が示した考えを振り返ったものになります。狙い撃ちLoRAを学習する場合、特に注意すべきことをざっとまとめると以下のようになるでしょう。

・「作風や画風は著作権保護されないから大丈夫」とたかをくくっていると、そのLoRAでアイデアを超えた表現まで模倣できてしまった場合に、刑事罰を含むペナルティを負う恐れがある

・自分が公開した狙い撃ちLoRAで誰かが著作権侵害事案を起こした場合に、学習者である自分まで法的トラブルに巻き込まれる恐れがある

・当該LoRA学習のための画像収集が著作権侵害かどうかは個別に司法判断されるが、頻繁に表現を模倣してしまう画像が生成されるLoRAは、享受目的があったとして違法とみなされる危険性が高まる

　　　　　　　　　　　　　　　　＊　＊　＊

第二章：LoRA"利用"が違法になるケース

では、より一般的に行われていると思われる「狙い撃ちLoRAを利用した」とき、それが違法になるケースとその責任についてはどうでしょうか。

・類似性と依拠性

これまでもさんざん言われてきたとおり、手描きイラストのパクリと同様に、生成されたイラストとパクったとされる著作物との間に「類似性」と「依拠性」があるかで判断することになる…との考え方が「素案」でも繰り返されています。さきほどもルフィの例で語ったように、類似性の有無の判断は「著作物の表現形式上の本質的特徴部分を、AIイラストからも直接感得できる程度に類似しているか？」が問題になります。

・パクったイラストを知ってた？それとも偶然？

一方、例え類似性が認められても、依拠性が抜け落ちれば著作権侵害にはなりません。素案はこの依拠性について特に詳しく説明しており、生成者がそのパクったとされる原著作物を知っていたか、それとも知らなかったかに場合分けしています。生成者がその画像を知っていて、LoRAやi2iによって模倣した場合は依拠性が認められますし、「元絵とめちゃくちゃ似てる」とか「元の絵は誰でも知ってる絵で、知らないというのは不自然」とか「イラスト掲示サイトにアクセス可能だった」とかを証明できれば、割と簡単に依拠性があることは証明できてしまいます。

問題は元の絵を本当に知らなかった場合。LoRAにもCheckpointにもその画像が学習されていなかった場合は、単なる偶然の一致ということになりますので、著作権侵害は成立しません。が、「その画像を全く知らなかったけど、LoRAに実は学習されていた」ときは、通常の場合、著作権侵害が成立するとされています。ただ、その場合も故意や過失がないことがちゃんと証明できれば、損害賠償義務を負わなくてすむと考えられます。

素案によるとその場合、権利者は生成者に「新たな侵害物の生成に対する差止請求」「既に生成された侵害物の利用行為に対する差止請求」「侵害行為による生成物の廃棄の請求」を求めることができます。つまり、AIパクリ側は「もう私のイラストのAIパクリをやるなよ」「このAIパクリ絵は削除して、ウェブ上や作品内からも取り下げてもらうぞ」と求められることになります。

・LoRA利用時に気を付けるポイント

注意しなくてはならないのは、パクリ元の絵が念頭にあって、それを模倣しようという意識のもとLoRAを使ったときや、そういうつもりはなかったけれども、結果的に「あ、あの公式絵にそっくりだな」と思える絵が出たときは、それを世の中に公表するのは避けたほうが無難であるということでしょう（私的利用なら問題ありません）。さすがに知らない絵に似てしまったときは回避しようがありませんが、その場合も故意の模倣ではなかったことがあとで証明できるよう、生成履歴やデータなどはできるだけ保存しておくことが重要と言えます。

NovelAIv3の記事でも書きましたが、リスクの高そうな画像が出てしまったときは「見て避ける」精神が大切。そうした画像ばかりが出るLoRAは、よほど工夫してControlnetや加筆で類似性を落とすか、または使わないことをおすすめします。

「素案とLoRA」まとめ

以上、今回の文化庁素案で示されたAI学習と生成・利用それぞれの違法性について、LoRAに置き換えて振り返ってみました。まとめると、以下のようになります。

【LoRA学習はどういうときに違法になるのか？】

①「学習したイラストを「享受」する・させる目的があったときは？

→30条の4適用外となり、著作権侵害

②学習したイラストが権利者にもたらすはずの利益を不当に害するときは？

→30条の4但し書き適用となり、著作権侵害

③学習防止措置を回避して学習させたときは？

→新聞社の記事データのように、ある条件を満たすと著作権侵害になりうる

④海賊版を学習させたときは？

→ただちに違法ではないが、LoRA利用者がやらかしたときに責任を問われうる

・違法なLoRA学習を行ったとき、学習者はどんな責任を負うか？

→損害賠償や刑事罰（懲役や罰金）などの可能性。故意・過失の有無も重要。

・クリエイターが学習を拒否している著作物を学習するとどうなるか？

→学習拒否されているだけでは著作権侵害にはならない。

【LoRA利用はどういうときに違法になるのか？】

→生成した画像について、ある著作物と類似性・依拠性が認められたとき。その著作物を知らずにうっかりパクってしまったときはちょっと複雑な整理になる。

・違法なLoRA利用を行ったとき、生成者はどんな責任を負うか？

→故意・過失がないことが証明できれば損害賠償義務を負わない。画像の削除や再発防止などを義務づけられる可能性。

これらはあくまで、素案の言う「学習」や「生成」の概念をそのままLoRAにあてはめることができた場合の読解です。そして、この素案は最初に繰り返し念押しした通り「現行法を判例などを踏まえて普通に当てはめるとこうなるのではないか」という一般的法解釈として開陳されたものに過ぎません。最終的には個別の司法判断が下されるものですから、あくまで私という画像生成ユーザーが素直に読んだ結果として、ご参考にされる程度にとどめることをおすすめします。

終わりに

大変長く、また堅苦しい記事になってしまいましたが、ここまで読んで下さってありがとうございました。この素案については、全く新しい新判断が政府によって公開されたものであるとか、何かを規制するものである、または何かをセーフとするものであるといった強めな受け止めがSNSで散見されるのですが、個人的には「かなり解釈に幅を持たせた玉虫色の文章」というのがファーストインプレッションでした。AIに肯定的な立場、懐疑的な立場双方からどのようなツッコミを受けても、うまく受け流せるように工夫されたテクニカルな文章だと感じています。

この素案が最も注意しているのは、「リスクがあることをないかのように示唆してしまい、違法行為にお墨付きを与えてしまう」ことでしょうから、あくまで現行法や判例に基づいた一般的解釈を並べた形になっています。また、今後もパブリックコメントや小委員会での論議を経て、来年3月の報告書（ガイドライン）として仕上げられるものでしょうから、内容はある程度変わってもおかしくありません。あまり重く受け止めすぎず、自分の「やっていいことライン」を決める上で参考にする程度に留めるのがよい使い方なのではないかと思います。

個人的には「画風や作風は著作権保護されないのだから、いくら画風再現LoRAを作っても問題ない」という考え方に危うさをつねづね感じていましたので、明確な形でそこに疑義を持たせてもらえたのは良かったと感じています。正確に作風だけを模倣できるサービスやLoRAならその通りですが、学んだイラストの「表現」まで模倣するケースがあるというポイントが明確になりました。

AIには模倣してよい「アイデア」と模倣してはいけない「表現」の境目を区別することなどできませんし、もっと言えば人間にもかなり困難です。二分論でよく紹介される江差追分事件でも、最高裁で判断がひっくり返っているくらいですから、素人が考える「ここまでが作風」「ここまでなら類似性はない」というラインにさほど意味があるとは思えません。幅広く色んな可能性があることを考えて、起きたことに責任を取る心構えをする必要があるということでしょう。

そんなわけで、今日はこのあたりで失礼します。今回が年内最後のFANBOX更新かどうかはわかりませんが、この年末年始はNovelAIが盛り上がってきたこともあり、再度「AIイラストが理解る！」と「プロンプト辞典」を大幅アップデートできればなと思っております。余談ですが、30日（土）には生まれて初めてコミックマーケットを見に行く予定で、今から楽しみにしております。初めての参加者から見たコミケ感想なども書き残せたら楽しいですね。

2023年は私にとって、AI検証とAIイラスト創作をじっくり楽しめた、近年記憶にないほど素晴らしい1年となりました。とりわけ、AI生成を経てレタッチに進み、自分らしい絵や漫画を曲がりなりにも創作できるようになってきたことは本当に嬉しかったことでした。それもこれもFANBOXをご支援くださった皆様のお陰だと、本当に感謝しております。

改めて、１年間ありがとうございました。来る年も皆様の役に立つような記事や論考を書いて行けたらと思っております。

それでは皆様、良いお年をお迎え下さい。スタジオ真榊でした。