「AIと著作権」文化庁がパブコメ募集開始　何をどう書く？ポイントまとめ (Pixiv Fanbox)

こんにちは、スタジオ真榊です。今回は全体公開記事ですので最初に自己紹介しますと、22年10月からAIイラストの研究記事を100本以上書き続けている変な人です（自己紹介終わり）。

さて、本日からいよいよ「AIと著作権に関する考え方（素案）」に関する文化庁のパブリックコメント募集が開始されました。総務省も「AI事業者ガイドライン案」について先日からパブコメ募集を開始しており、本日はそれぞれのポイントと、具体的な書き方についての特集記事を全体公開でお届けします。

今回のパブコメの結果は、日本国内における生成AIの扱いを左右する可能性があり、生成AIの利用に積極的な方にも、逆に問題意識を持っている方にも、双方からできるだけ多くの方に意見を寄せていただきたいと思っています。読み始める前に恐縮ですが、ぜひSNSアカウントなどで拡散していただけると嬉しいです。

また、この記事はできるだけフラットな書き方となるよう努めており、後半で紹介する「意見例」でもAI利用派/懸念派双方の立場からの案を列挙していますが、前述したとおりAIイラストを１年以上楽しんできた画像生成AIユーザー（私大法学部卒の一般人）の目線で書かれたものであることをご留意ください。とはいえ、画像生成AIやそのユーザーに反発を覚えている方は、「相手方はこういうことを主張しようとしているのだな」と理解するのに役立つかなと思いますので、そうした観点で読解していただければと思います。

目次

・文化庁の「素案」とは？

・素案に書いてあったこと（概要の概要）

　１．学習・開発段階

　　▶狙い撃ち学習について

　　▶「利益を不当に害する」について

　　▶「学習防止措置」が施されている場合

　２．生成・利用段階

　３．生成物の著作物性について

・パブコメはどんな風に書く？

・具体的な記入例

・画像生成AIユーザーからの意見案（例）

・画像生成AIの悪用を懸念する立場からの意見案（例）

文化庁の「素案」とは？

パブコメの書き方について触れる前に、簡単に「いま一体何が進行しているのか」を振り返ってみることにします。

まず、日本政府は昨年７月から「文化審議会著作権分科会法制度小委員会」という枠組みで、生成AIと著作権制度についての審議を進めてきました。これまでの議論の経緯はこんな感じ。

「1月中旬～」のところにある「パブリックコメントの実施」というのが、今日から始まったパブコメというわけです。では何についての意見募集かというと、小委員会でこれまで「議論→有識者ヒアリング→クリエイターへの意見照会→骨子案作成…」という流れの末に作られた「素案」という文章について、「いまの著作権制度を素直に当てはめるとこういう考え方になるけど、直すとこある？」と問いかける内容となっています。

つまり、まずはこの「素案」を読んで、問題点を理解していただかないことには、パブコメを送ることができないわけです。こちらがその素案ですが、37ページもある上に、著作権法や判例についてそこそこ明るくないと、何を言っているのかよく分からない部分も多くあるかと思います。

この時点でギブアップしてしまう方も多そうですが、なんと文化庁はパブコメ募集にあたって、本日付けで「素案（概要版）」を用意してくれましたので、難しすぎる方はこちら（▽）をさっと読んでいただいた方が理解しやすいと思います。

文化庁素案については最近もこちらの記事で読み解いたところですが、改めてパブコメを送る上で、どんなことが書いてあったかについて整理していきましょう。

狙い撃ちLoRAが違法になるとき　画像生成AIユーザーが読む「文化庁素案」

素案に書いてあったこと（概要の概要）

【前提】「AI開発のための学習にはどの範囲で著作物を利用できるの？」「AI生成物による著作権侵害が生じるのでは？」といった疑問には、本来裁判所（司法）が判決という形で応じるべきだけど、さすがに訴訟と判例が蓄積するまで待っていられないから、有識者の皆さんに議論してもらって「考え方」の報告書を作ることにしたよ。

【素案の中身】「考え方」の内容はこんな感じだよ。パブコメで意見を送るときは、どの章のどこについての意見かわかるように書いてね。

【各論点】１～６のうち、５の「各論点について」が特に重要だよ。生成AIと著作権の問題を考えるためには、「AIの学習・開発段階」と、「AIを使った生成・利用段階」に分けて考えよう。また、生成物を著作物扱いしてよいのかも考えないとね。

１．学習・開発段階

AIを作るためには著作物を大量に学習させることが必要だよね。著作権法では、30条の4という条文で「享受目的ではないとき」には著作権者に無許諾で著作物を利用してよいことになっているんだ。画像生成AIでいえば、他人のイラストの利用が純粋にAIの学習目的だけなのであれば、基本的に合法だよ。

でも、AI学習のためと言えば他人の著作物に何をしても合法なわけではないんだ。この点について、素案では「著作物の利用目的のうちに一つでも享受目的が含まれていたらダメ（違法）だよ」ということをまず確認して、次のような具体例を挙げているよ。

▶狙い撃ち学習について

さっきは大量学習の話をしたけど、最近は例えば、あるイラストレーターの作品を少量でも狙い撃ち的に学習させて、その作品群の影響を強く受けた生成物を作ることが行われているみたいだね。著作権法には、具体的な「表現」は保護するけど、作風や画風といった「アイデア」は保護しないという大前提がある。狙い撃ち学習がアリかナシか、つまり狙い撃ちLoRAとかが模倣しているのが「表現」なのか「アイデア」なのかが、みんな気になるところだよね。

小委員会での議論の結果を踏まえて、素案では次のように書くことにしたよ。

狙い撃ち学習：「意図的に、当該創作的表現の全部又は一部を生成AIによって出力させることを目的とした追加的な学習を行うため、当該作品群の複製等を行うような場合は、享受目的が併存する」

▶画像生成AIで例えると「ある作品群からアイデアや作風を学習するのは問題ないけど、その作品群の創作的表現を全部または一部でもパクる目的があったなら、LoRA学習のための画像複製は無許諾ではできないよ」ということ。

狙い撃ち学習で生成：「当該生成物が、表現に至らないアイデアのレベルにお

いて、当該作品群のいわゆる『作風』と共通しているにとどまらず、表現のレベルにおいても、当該生成物に、当該作品群の創作的表現が直接感得できる場合、当該生成物の生成及び利用は著作権侵害に当たり得る」

▶画像生成AIで例えると「LoRAを使って作風だけを模倣しているならよいけど、学習された作品群を表現のレベルで模倣していた場合は著作権侵害になりうるよ」ということ。

一応言っておくと、あるLoRAを使って著作権侵害と言えるイラストが一枚でも出たら、即座に「享受目的の学習だ」と言えるわけじゃないよ。ただ、そういう著作権侵害イラストの生成が頻発するモデルだと、享受目的があったとみなされる可能性は高まりそうだね。

▶「利益を不当に害する」について

さっきは「無許諾で学習するには、非享受目的じゃないとダメ」という話をしたけど、「著作権者の利益を不当に害することとなる場合」もダメだよ。これはすごく誤解されがちな文章だから、一応確認しておくと…

・30条の4の言う「不当に害する」は、「AI学習でパクられたとされている既存の著作物」が生み出す利益についてで、まだ存在しない未来の作品についての話じゃないよ

・模倣したのがクリエイターの作風や画風（アイデア）だけで、ある作品を表現レベルで類似しているとは言えないなら、あるイラストの利益を「不当に害する」とは言えないよ（もちろん表現レベルで類似してたらダメだよ）

ということだね。じゃあ、不当に利益が害されるときってどんなときかというと…

・大量の情報を容易に情報解析に活用できる形で整理したデータベースの著作物

が販売されている場合に，当該データベースを情報解析目的で複製等する行為

・AI学習のための著作物の複製等を防止する技術的な措置が講じられており、かつ、これらがデータベースの著作物の一部として将来販売される予定があることが推認される場合

こういうときは、30条の4の但し書きで、無許諾学習ができなくなるよ。他にも、「海賊版サイトから意図的に学習データの収集を行ったとき、それによって作ったAIで著作権侵害がもし行われたとしたら、学習した人物もその侵害の責任を問われる可能性が高まる」とも書いておいたよ。

▶「学習防止措置」が施されている場合

AI学習のためには著作物の複製などが行われるけど、それを防止する技術的措置が講じられていたのに、それを回避して学習していた場合、「不当に利益を害する」として違法となるかな？

素案では、こうした技術的な学習防止措置に加えて、「これらがデータベースの著作物の一部として将来販売される予定があることが推認される場合」には、無許諾での著作物利用が合法にならない、としておいたよ。

（賢木注：ここが今回の素案で個人的に最も危うさを感じる記述で、著作権の有識者からも明確に反対する意見が出ています。まだ存在しない著作物の権利を「推認」で保護して本当に大丈夫なの？ということですが、詳しくは後述します）

２．生成・利用段階

AI生成物による著作権侵害の認定は、人間が AI を使わずに創作したときの要件と基本的に変わらないよ。誰かの著作権を侵害したというには、既存の著作物との「類似性」と「依拠性」の両方が必要だ。

・「類似性がある」とは、これまでの判例によれば「既存の著作物の表現上の本質的な特徴を直接感得することのできるもの」であること。我々は裁判所じゃないから、それ以上は言えないよ。（賢木：サザエさんバス事件やポパイネクタイ事件、マンション読本事件、ときめきメモリアル・アダルトアニメ映画化事件などなど過去の判例が参考になりますが、何をもって類似性があると言えるかは非常に分かりにくく、裁判所にしか判断できないレベルと感じます）

・「依拠性がある」とは、表現をパクったとされる問題の作品が、偶然似たのではなく、確かにその原著作物に基づいて作られたものであるということ。権利侵害者が既存著作物にアクセスできる可能性があったことや、生成物にある著作物との高度な類似性があること等を立証すれば、依拠性があると推認されるよ。（賢木注：ここでは省きますが、素案は類似性についてはほとんど触れず、依拠性について細かく場合分けして解説しています）

３．生成物の著作物性について

生成AIに対して「創作的寄与」と言えるような指示をした場合は、生成物にも著作物性が認められる可能性があるよ。また、創作的な加筆修正をした場合も、その部分には普通、著作物性が認められると思うよ。

　　　　　　　　　　　　　　　　◆　◆　◆

「概要の概要」をかなり駆け足で紹介すると、このようになります。個人的には、大筋では納得のいく内容かなと考えていますが、柿沼太一弁護士が強く懸念を表明している「学習防止措置が施されている場合」のくだりなど、部分部分で違和感がある記述や、言葉足らずだと感じる項目があります。

ここでは非常にざっくりした紹介にとどめましたが、時間のある方はぜひ素案全体を読み込んでいただいて、自由に意見表明していただければと思います。

パブコメはどんな風に書く？

さて、ほとんどの方はパブコメを書くのは初めてだと思いますので、具体的な書き方について考えてみましょう。こちらのリンク先の右下「意見入力へ」から入力画面に遷移することができます。

提出意見は最大2000字。「個人／団体の別」「氏名／団体名」「電話番号」「メールアドレス」をそれぞれ記入します（個人の場合は、名前や電話番号、メールアドレスの入力は任意です）

ポイントとしては、素案の文面のうち、意見したい具体的箇所をできるだけ絞り込むこと。これは「AIと著作権についてのご意見募集」ではなく、あくまで「素案についてのパブリックコメント」なわけですから、自分の問題意識や意見を総花的に書き連ねるのではなく、現在の「素案」の文面をよりよくするにはどうしたらいいか、に特化して考えましょう。

2000字という文字数制限から考えると、意見する箇所は１～２点、多くても３点程度に絞り込むのがよいのではないかなと思います。こちらの項目名から該当部分を選び、できればさらに（ア）などと小項目も特定して、効果的な指摘をするように心がけるのが良いでしょう。

具体的な記入例

書き方は自由ですが、「意見対象箇所」と「意見の概要」を先に書いておくことで、より読みやすい形になります。例えば、以下のような書き方が一例となります。

・意見対象箇所

「４．関係者からの様々な懸念の声について」▶＜AI 利用者の懸念＞

「５．各論点について」▶（２）生成・利用段階

以上２ケ所

・意見の概要

生成AIと利害が対立する立場の人物が、著作権者本人ではないのにも関わらず、AI利用者や利用企業を一方的に権利侵害者と指弾し、集団で中傷することが繰り返されている。「AI利用者の懸念」欄にそうした問題があることを詳しく明記し、同様の行為を防止するための文章を盛り込んでほしい。

・意見及び理由

　SNSではAI、とりわけ画像生成AIを利用する個人・団体への苛烈な中傷が相次いでいます。具体的に類似している既存作品を示すことをせず、当事者ではない人物が一方的に「盗人」などといった言葉を投げ掛けたり、ユーザーの個人名を列挙して攻撃を促したりする投稿が散見され、安心して生成AIを使うこと（または利用を公言すること）が難しい現状にあります。

　背景にあるのは、著作権侵害の要件の一つである「類似性」の概念が非常に分かりにくいことです。素案にもある通り、類似性の有無は「既存の著作物の表現上の本質的な特徴を直接感得することのできるもの」であることが必要ですが、一般人には創作的表現とアイデアの境目が非常に分かりづらいことから、画像生成AIを使ったあらゆる表現が「盗作」と看做されているのが現状です。

　素案にもある通り、画像生成AIの利用段階での盗作は、現行の著作権法の運用によって十分防ぐことができると考えます。素案にもそうした前提や、著作権者以外が画像生成AIの利用者を誹謗中傷する問題が広がっていることを明記した上で、こうした悪質行為を抑止することができるような文面を盛り込んでいただきたいと考えています。（715/2000文字）

（※こちらは賢木が今後提出する案の一部です。同趣旨の投稿をしたい場合は、ご自身の言葉で書き直して投稿してくださいますようお願い申し上げます）

このほか、個人的には柿沼先生がブログで懸念されていた「著作権者がウェブサイト内のデータについて『将来データベースの著作物として販売される予定がある』と主張し、robots.txtの記述を含む何らかの技術的な措置を講じているだけで、30条の4ただし書に該当することになる可能性が高い」と読める点（リンク先参照▽）についても、AI開発のためのデータ収集を大きく萎縮させる恐れがあると考えており、2点目の懸念として盛り込むことを考えています。

いまこの記事をお読みいただいている方は、おそらく多くが画像生成AIユーザー、もしくは画像生成AIに懸念を持つ方であろうと思われますので、それぞれの立場から「素案」に寄せられそうな代表的意見を以下、思いつく限りまとめてみます。これらの中から自分の意見に近いものを見つけ、素案の該当箇所を探して（重要）、意見をお送りいただくとよいかと思います。

※随時ご意見募集・追加しておりますので、DMまたはリプライ、コメント等でお寄せください。

画像生成AIユーザーからの意見案（例）

・特定のイラストレーターの画風やキャラクターの容姿を模倣するLoRAやプロンプト（タグ）の学習または利用について、それぞれどこからが違法になるのか、もっと具体的に検討し、分かりやすい例を列挙してほしい。

・他人が作ったLoRAが違法な学習によって作られたものだった場合、そうと知らずに利用したユーザーの法的責任がどうなるのか知りたい。

・既存の著作物と類似性のあるAI画像を生成・SNS投稿してしまった場合に、その著作物を知っていた場合/知らなかった場合、自ら学習させた場合/他人が学習させた場合など、どのような法的整理となるかを場合分けして示してほしい。

・ウェブ上では生成AIを利用した創作であることを自発的に明記する動きがある一方で、明記しない投稿者を攻撃したり、明記を強要したり、AIを使っていないのに使っていると言いがかりをつけて中傷したりする悪質行為が散見される。AI利用を示すタグ付けをめぐり、国内法上そうした義務があるかどうかや、こうした行為にどのようなリスクがあるかについても検討し、明記してほしい。

・画像生成AIの利用者や利用企業に対する悪質な嫌がらせや中傷を抑止する観点から、こうした行為にどのようなリスクがあるか等も盛り込んでほしい。特に、酷似しているイラストが存在しないのにも関わらず、抽象的な理由から犯罪者扱いされるケースに対し、どのような対抗策があるか明確化してほしい。（不十分な場合は、防止できるような法整備を希望する）

・データベースの著作物に関する素案の記述には、イラストレーターが『この作品群は将来データベースの著作物として販売される予定がある』と主張し、robots.txtの記述を含む何らかの技術的な措置を講じているだけで、30条の4ただし書に該当することになるかのように読める部分がある。まだこの世に存在しないデータベースの著作物についても著作権保護の影響を及ぼせることになれば、AI開発のためのデータ収集に非常に大きな萎縮効果をもたらす恐れがあり、かかる記述の再考を求めたい。

・自分のAI生成物に著作物性が認められた場合に、自分が生成したものであることをどう証明したらよいかについて知りたい。

・AIの悪用を防ごうとして、作風や絵柄の模倣を強く規制した場合、自由な創作を阻害しかねない危険性がある。創作的表現は保護するが、アイデアは保護しないという原則に則り、著作権保護の範囲をいたずらに広げないよう求める。

・AI生成物で他人の作品や肖像、声などを模倣し、鑑賞者をだます行為は確かに問題だが、従来通り詐欺罪等で対応すべきで、著作権保護によって抑制しようとするのはお門違いなのではないか。

・日本では違法アップロードでも、海外ではフェアユースに基づく合法な転載であるケースがあることが触れられていない。「海賊版等の権利侵害複製物を掲載していることを知りながら、当該ウェブサイトから学習データの収集を行うといった行為は、厳にこれを慎むべき」とあるが、現地法では合法なサイトから学習する行為はどのような扱いになるのか明示してほしい。ダウンロード先のサーバー、学習を行った場所、操作者の国籍等で法的整理は変化するか。

...etc

画像生成AIの悪用を懸念する立場からの意見案（例）

・30条の4の「享受/非享受」判定についての懸念や、法整備（再改正）の要求

・30条の4の但し書きについての懸念、法整備（再改正）の要求

・自分の画風そっくりなAIイラストを繰り返し投稿しているユーザーを発見した場合、現状でどのような対抗策が取れるか明確化してほしい。（不十分な場合は、きちんと対抗できるような法整備を希望する）

・いわゆる「image2imageパクリ」について、どのような場合に違法となるか、投稿者はどのような法的責任に問われるか明確化してほしい。（不十分な場合は、きちんと対抗できるような法整備を希望する）

・自分のイラストを集中学習され、自分の名前が冠されたLoRAとしてウェブ上で配布または販売された場合、どのような法的整理になるかや、どういった対抗策が取れるかを明確化してほしい。（不十分な場合は、きちんと対抗できるような法整備を希望する）

・国内で展開している画像生成AIサービス上で、「自分の名前が冠されたタグが使える/自分の画風にそっくりなイラストが生成できる」ことを確認した場合、どのような法的整理になるかや、どういった対抗策が取れるか、サービス事業者側にはどのような義務があるかを明確化してほしい。（不十分な場合は、きちんと対抗できるような法整備を希望する）

・自分のイラストを無許諾で学習できないようにするためにはどうしたらいいか、具体的な対抗策を示してほしい。現行法下では対抗策がない場合、学習回避が自由にできるような法整備を希望する。

・生成AIによる絵柄や画風の盗用が簡単に行えるようになった一方で、既存の著作権法の枠組みではそうした悪質行為に対抗できなくないことが素案でも明らかになった。誰が見ても自分の作風を模倣したと分かるAI絵を商用利用された場合、自分の利益が不当に侵害されることは明らかであり、そうした行為を取り締まれるような立法の必要性についても明記してほしい。

・既存の著作物に類似したAI生成物を、生成者ではなく第三者が利用した場合の法的整理がどうなるか、生成者と第三者にそれぞれどのような法的責任が生じるかについても明確化してほしい。生成者が類似性について認識していた場合と、認識していなかった場合ではどう変化するのか。

・AI生成物があらゆる著作物と類似していないことをチェックするのは非常に困難であり、意図しない権利侵害がAI登場以前と比べて急増することが考えられる。侵害を受けた側から見ると、相手方の故意や過失の有無によっては損害賠償を求めることができず、被害回復が困難になるのではないか。この点につき、現行法では権利保護が十分なのか明示してほしい。（不十分なのであれば法整備を希望する）

※強調部分を2024年1月25日に追記しました。

...etc

終わりに～総務省パブコメについて～

以上、「AIと著作権」素案に関する文化庁パブコメについて、概要と基本的な書き方について紹介してきました。もう一つ同時に募集中の「総務省パブコメ」についても触れておきたいと思います。

こちらは主にAI事業者に対するルールについて定められた「AI事業者ガイドライン案」に関する意見募集です。文化庁素案同様、かなりの文章量がある上、その大半はAI事業者に向けての内容となっています。そのため、なかなか読解するのに時間がかかるのですが、注目したいのは第5部「AI利用者に関する事項」です。

中身をざっと読んでいただけると分かると思いますが、文化庁素案が「現行法のもと、AIと著作権の関係はどのように整理されるか」の考え方が書かれていたのに対し、こちらは「AI利用者はこのような心掛けでAIを使いましょう」的な、まさに「ガイドライン（手引き）」的内容となっています。

基本的な考え方として、AI利用者は「AI 提供者が意図した範囲内で継続的に適正利用及び必要に応じて AI システムの運用を行うことが重要」とされており、例えばChatGPTを「だます」ような脱獄的手法を使わず、AI利用者が想定した通りの使い方でAIを使うことが求められています。そのほか「AI の出力について精度やリスクの程度を理解し、様々なリスク要因を確認した上で利用する」「プロンプトに含まれるバイアスに留意して、責任をもって AI 出力結果の事業利用判断を行う」というくだりもあり、要するにAI生成物は学習内容によって危険な内容や偏った内容になることを十分理解して使おう、と呼び掛けるような内容となっています。

これが「法的義務」であると話は変わってくるのですが、いわゆる手引きとしての呼びかけであれば、さほど反論すべくもない内容かなと個人的には感じています。パブコメの入力方法も基本的には文化庁素案と同じ方法でできますので、文化庁パブコメの送信を済ませた上で、さらに関心のある方は総務省パブコメについても意見を送ってみるのが良いのではないでしょうか。

そんなわけで、「AIと著作権～文化庁がパブコメ募集開始　何をどう書く？ポイントまとめ」でした。今回の文化庁パブコメは、国内の生成AIと著作権を考える上で今後長く基本的指針となる文章を左右するものです。現状に懸念や意見のある方はごく短い文章でも構いませんので、意見を送ることが重要かと思います。

また、現「素案」の重要なポイントは、法改正の必要性についていっさい触れていないということです。「現行法においてこのような解釈ができるから、AIの性能や利用環境が一変したとはいえ、新たな法整備は必要ないだろう」という政府の考え方が透けるものと個人的に考えています。AIをめぐる現状を変えたいのであれば、まさにこうしたパブコメなどで懸念を訴え、現行法解釈で解決が不可能（法の欠缺状態）なのであれば、法整備を強く求めていくということが正道でしょう。

匿名SNSで「反AI」「AI絵師」と互いに口を極めて罵り合っていても現状は変わりませんから、ぜひこの千載一遇のチャンスに双方建設的な意見が集まるとよいなと思っています。最後になりますが、こちらの記事は全体公開記事となっておりますので、RTなどしてお知り合いに拡散していただけると大変励みになります。

それではまた近いうちに。スタジオ真榊でした。