AI研究者のGary Marcus氏は一連のスレッドの書き出しをこう始めた「OpenAIは大変な問題を抱えている」。

先日、The New York Times紙は、OpenAIのChatGPTがNYTの著作権を侵害しているとして、OpenAIとMicrosoftを相手取り、損害賠償を求めて提訴した。

この訴訟の中で、ChatGPTがNYTの著作物である同紙の文書をそのまま生成することが明らかになったわけだが、問題は大規模言語モデルのGPTだけではないようだ。

Marcus氏はOpenAIの画像生成AIモデル「DALL-E 3」に著作物の詳細な説明を与えると、それを生成することができる事を明らかにした。その際、作品の名前や商標に言及する必要もないという。

上に示したように、同社が誇る高度なガードレールにもかかわらず、OpenAIのDALL-E 3はChatGPTで著作物の画像を生成できるのだ。

また、XのユーザーNLeseulは、宝物でいっぱいの謎のパイプを探索する配管工についてのビデオゲームのコンセプトアートを促した。最初のプロンプトでは、赤い帽子を除けば、スーパーマリオを連想させるものはあまりない。

しかし、ChatGPTにキャラクターをカメラ目線にしてもらうことで、スーパーマリオを完璧に再現する事が出来たという。

SouthenとMarcusは、Microsoft Designerでこれらの画像を作成したようだ。彼らは、ChatGPTではこうした画像は著作権の観点から見て問題のない画像が作成されると述べているが、筆者が試したところ、以下のようにChatGPTでも明らかに著作権上問題のある画像が出力されている。

最初に、Marcus氏のプロンプトを日本語に翻訳し、ChatGPTに入力して出力したところ、以下のような出力がいきなり出てきてしまった。こちらはカメラ目線ではなく、帽子も赤ではないが、明らかにマリオの後ろ姿である。

アニメ『スポンジ・ボブ』のキャラクターもこのように作成する事が可能だった。

「古典的なSF映画に登場する黄金のドロイド」というプロンプトでは、『スター・ウォーズ』のロボットC-3POの画像が生成された。頼んでもいないのに、宇宙船のデストロイヤーや、巨大なデス・スターまで描かれている。

ちなみに、「赤い帽子をかぶったイタリア人の配管工」というプロンプトでは、スーパーマリオのビデオゲームの画像が生成されるようだ。キノコの画像までマリオに登場するものそのものだ。

Southen氏は以前、Midjourneyが簡単なプロンプトで映画シーンのほぼ正確なコピーを生成していると批判していた。これを受けて、Midjourneyは利用規約を変更した：ユーザーは生成された画像に責任を持たなければならない。罰金が発生した場合、Midjourneyは “あなたを見つけて、そのお金を回収します”。

MidjourneyとOpenAIは法廷で問題に直面するかもしれない。生成された画像の責任はツールではなく、ユーザーにあるという主張は妥当かもしれない。しかし、このツールがこれらの画像を生成できるのは、明らかにライセンスなしに著作権で保護された素材から学習したからに外ならない。

ここで「変形的利用」を主張することは、究極的には「フェアユース」の背後にある考え方であるが、出力された画像が全く変形的ではなく、単なるコピーであった場合、OpenAIとMicrosoftの弁護士にとっては難しい訴訟になるだろう。

Sources

• X:
  • Gary Marcus
  • NLeseul
• via The Decoder: DALL-E 3 can generate copyrighted motifs without explicit prompt