YouTubeは、AI生成コンテンツを利用する際の厳格なガイドラインを導入すると発表した。これはAIが生成するディープフェイク動画などを投稿する際に、動画投稿者に免責事項の表示を義務付けるものだ。この新たなルールは、特に選挙や公衆衛生危機などの「デリケート」なコンテンツに関して、警告ラベルをより大きく表示することを要求する。このルールは11月中旬に開始される予定だ。

さらにクリエイターが注意したいのは、免責事項の追加を繰り返し拒否するユーザーには、コンテンツの削除、アカウントの停止、または広告収入へのアクセス権の剥奪などの措置を取る可能性があることだ。

また、AI生成コンテンツによって被害を受けている個人に対して、YouTubeは「特定の個人を模倣するAI生成またはその他の合成または変更されたコンテンツの削除を要求することが可能になる」とも述べている。

ただし、パロディや風刺である場合、要請者が特定できる場合、著名人に関する動画である場合など、すべてのAIコンテンツただちに削除対象になるわけではないことも、YouTubeは合わせて指摘している。

ちなみに、YouTubeの生成AI製品や機能を使用して作成されたコンテンツには、改変または合成であることが明確に表示される。

今後、クリエイターはコンテンツをアップロードする際にそのコンテンツが現実的なものか、改変されたものか、合成されたものかを示す新しいオプションを選択する事になる。YouTubeによると、これはデリケートな話題を扱ったり、公人を起用したりするコンテンツにとって特に重要だという。

YouTubeは、コンテンツが操作または合成された可能性があることをユーザーに警告するため、説明欄に新しいラベルを導入し、敏感なトピックに関する特定のコンテンツを動画プレーヤーでより目立つように表示する。

音楽パートナーは、アーティスト独自の歌声や話し声を模倣したAI生成音楽コンテンツの削除を要請することもできる。削除要請を判断する際に考慮される要素には、そのコンテンツが合成音声に関する報道、分析、批判の対象となっているかどうかが含まれる。

加えて、The Vergeによれば、アーティスト独自の歌声や話し声を模倣したAI生成の音楽コンテンツには、パロディや風刺の例外はなく、ただちに削除対象となるようだ。

YouTubeがどのようにしてAIコンテンツやディープフェイクを確実に検出する計画なのかは明らかにしておらず、YouTubeは、コミュニティガイドラインを実施するために、人間と機械学習の組み合わせを使用していると述べている。これは、ともすればYouTubeによる恣意的なコンテンツの選別拡大にも繋がりそうだ。

Sources

• YouTube Official Blog: Our approach to responsible AI innovation
• The Verge: YouTube is going to start cracking down on AI clones of musicians