Midjourney、偽のAI画像が出回ることを懸念し無料トライアルを停止

masapoco
投稿日
2023年3月31日 12:14
1680197846 midjourney logo story

Midjourneyは、人々がツールを使って非常に精巧なディープフェイクを作成し、問題を巻き起こしていることを受け、同社のAI画像ジェネレーターの無料利用に終止符を打った。CEOのDavid Holz氏はDiscordで、“異常な需要とトライアルの乱用”のため、無料トライアルを終了すると述べている。新しいセーフガードは、トライアル期間中の悪用を防ぐには「十分」ではなかったとHolz氏は述べている。今のところ、この技術を使うには、少なくとも月々10ドルを支払う必要がある。

The Washington Postが説明するように、Midjourneyはここ数週間、不要な注目の的になっています。ユーザーは同社のAIを利用して、逮捕されたDonald Trump氏流行のコートを着たFrancisco法王のディープフェイクを作成した。これらの写真はすぐに偽物であることが判明したが、悪質な業者がMidjourneyやOpenAIのDALL-E、同様のジェネレーターを使って誤報を流すことが懸念されている。

Midjourneyは、コンテンツに関するポリシーの確立が難しいことを認めている。2022年、Holz氏はDiscordのユーザーに対し、自分のチームは「ドラマを最小限にしたい」だけであり、風刺的なコンテンツを許可するよりも、中国で何らかのアクセスを得ることの方が重要であるとして、中国の指導者習近平の画像を禁止することを正当化した。水曜日のユーザーとのチャットで、Holz氏は、AIがこれまで以上にリアルな画像を可能にしたため、コンテンツ・ポリシーを設定するのが難しくなっていると語った。Midjourneyは、虐待をスクリーニングするAIのモデレーションを改善したいと考えていると、創設者は付け加えた。

一部の開発者は、事件を防ぐために厳しいルールに頼っている。例えばOpenAIでは、現在進行中の政治的事件や陰謀論、政治家の画像は一切禁止している。また、ヘイト、セクシュアリティ、暴力も禁じている。しかし、比較的緩やかなガイドラインを設けているところもある。Stability AIは、Stable Diffusionのユーザーがスタイルをコピーしたり、仕事上安全でない画像を作ったりすることを許さないが、一般的に、人々が作ることができるものに口を挟むことはない。

AI画像制作の問題は、誤解を招く内容だけではない。既存の画像を参考にすることが多いため、写真が盗用されているのではないかという懸念が以前からある。AIアートを製品に取り入れる企業がある一方で、不要な注目を浴びることを心配する企業が躊躇していることもたくさんあるだろう。


Source



この記事が面白かったら是非シェアをお願いします!


  • Synopsys AI for chip design 2
    次の記事

    Synopsys、チップ設計の加速とコスト削減を実現するAI搭載のEDAスイートを発表

    2023年3月31日 14:00
  • 前の記事

    Twitter、新APIの価格を発表

    2023年3月31日 11:58
    twitter icon
この記事を書いた人
masapoco

コメントを残す

メールアドレスが公開されることはありません。 が付いている欄は必須項目です


おすすめ記事

  • openai

    OpenAI、15秒の音声サンプルから感情豊かで自然な音声を合成できる「Voice Engine」を発表

  • a04c35e8e555c1cc7ae1d6a5f3159856

    MicrosoftとOpenAI、1000億ドル以上をかけて超人的AI開発のためのスーパーコンピューター「Stargate」を開発する計画

  • Sam Altman TechCrunch SF 2019 Day 2 Oct 3 cropped cropped

    ベンチャーキャピタリスト、OpenAIのSam Altman氏を“誇大妄想的”と非難

  • google logo image

    Googleが非営利団体を対象に2000万ドルの資金を提供し生成AI活用を支援

  • Pixel 8 in Rose.max 936x936.format webp

    Google、方針を転換しPixel 8にもGemini NanoによるオンデバイスAI機能を搭載へ

今読まれている記事