[law] 生成系AIに手を出す前に

 AI関連が色々騒がしいこの頃ですが。法の統制が追いつくはずもなく、無秩序に拡大する利用に一旦ストップがかかる流れになったようですね。

Chat-GPTにしろ、各種の画像生成ツールにしろ、法的な面は無論、実用上も問題だらけの現状では致し方ないところというべきでしょうか。

一般にこの文脈でAIと呼ばれるプログラムは、その全てが機械学習に基づくものです。数理モデルと学習データ及びその学習方式（数理モデルのパラメータ決定方法）の組み合わせからなるという事ですが、情報量的に見て出力されるデータに対しモデルの構造や学習方式の影響する割合は相対的に小さく、実質的な情報の大部分は基本的に学習データに依存します。それこそが最近の生成系AIの特性であるところの多様で情報量の多い出力を裏付けているのです。当然ながら、旧来の、構造が固定された比較的少数のパラメータをフィッティングさせるようなモデルを用いるものは含まれません。

そのため、学習データが正しければ、その出力も原則として正しいものである可能性は高くなりますが、逆に学習データに抜けや誤りがあれば、出力にもそれが反映されてしまいます。学習データ内に矛盾があれば、その出力も矛盾に満ちたものになるわけです。

また、学習データに個人情報や機密情報等、センシティブな情報が含まれる場合も、出力にそれらの情報が含まれてしまいます。これを避けるためには学習データとその出力プログラムの双方で正確に区別・管理出来るような仕組みを導入しておかなければなりませんが、その実現は容易ではないでしょう。膨大な学習データを全て人力でチェックしてマーキング等をしなければなりませんし、そんな手間をかけるだけのメリットを見出す事は難しいでしょう。かと言ってその手間を惜しめば、あっという間に情報漏洩で大損害、に留まらず、法的にも個人情報保護法違反やら不正競争防止法違反やらに問われてしまうだろうわけです。

画像生成等についても同様ですが、この場合にはさらに厄介な問題が生じます。著作権です。画像生成の場合、学習データは既存の画像という事になりますが、著作権者が放棄した、というのでもない限り、それらの画像には原則として著作権が付随しています。

言うまでもない事ですが、日本国内の著作権法においては、著作権者以外による著作物の扱いには様々な制限がかかります。もちろん著作権法上では生成AIに関して直接の規定はまだ存在しませんし、判例もありませんが、だからと言って著作権法の適用外になるわけもありません。いずれ訴訟も起こるでしょうし、法改正もなされるでしょうけれども、その時になって巨額の賠償責任を負うことのないように備えておく必要はあるでしょう。

例として、画像生成の場合について考えてみます。画像生成AIで生成されるものは画像データです。その点で、著作権法上では"絵画、版画、彫刻その他の美術の著作物"か、"写真の著作物"（著作権法10条4,8）に準じて扱われるべきものです。そして、出力される画像は、学習データに用いた画像を変形・翻案したものと言えるでしょう。すなわち、学習データ画像の二次著作物に準じて扱うべきものと言えるだろうわけです。

であれば、まず前提として、原著作権すなわち学習データ画像の著作権は出力画像に及んでいる事になります。従って、学習データ画像の著作権者の同意がない限り、複製や公表等は出来ない事になるわけです。同意のないままそれらの公表・頒布等を行えば、著作権法違反にあたるものとして扱われる可能性が極めて高いと言えるでしょう。

また、原著作権者には、同一性保持権（著作権法20条）が認められています。そもそも同意なしの改変・翻案等は許されていません。つまり、学習データ画像の著作権者の同意なく画像生成を行った時点で著作権法違反にあたる可能性がある、と言えるわけです。なお、AIに学習データを入力する事自体は、技術開発や情報解析として認められており問題ありません。（著作権法30条の4）画像が生成・出力された場合にその著作権が問題になるという事です。

ところで、私的利用ならいいのでしょうか？私的利用の場合は一般に複製権（著作権法30条）、すなわち著作権者の許可なく複製する事が認められていますが、翻案や改変については認められてはいません。実際、ゲームの改造等で私的利用のために改変等をした場合に違法と認められたケースもありますし、私的な作業であっても違法のおそれがないとは言えないでしょう。ただ、実際には複製に準じて問題なしとされる事の方が多いだろうとは思われますが。

斯様に、画像生成一つとっても、少し考えただけで様々な違法の恐れがあるわけです。文章や映像、プログラム等その他のメディアもおよそ殆どが生成AIの対象に含まれていますが、それぞれに同様の、あるいは特有の問題が山積みになっています。結局のところ、安易に手を出していいものではありません。少なくとも金銭のやりとりが絡むような場面ではとても危なくて使えないでしょう。モラルの問題ではなく、法的なリスクの観点から、一旦ストップがかかるのも致し方なし、と言わざるを得ないのではないでしょうか。