OpenAIは現在、AIが生成した画像を識別するためのツールを開発しているようだ。同社はこのツールの精度について、ChatGPTのCTOであるMira Murati氏は “99％の信頼性”を誇ると述べているようだ。

Bloombergが報じたように、同社は現在、一般公開に先立ち、社内でこのツールのテストを行っている。だが、どれくらい早くテストが行​​われるかは依然として不明である。

答えはかなり複雑だ。MicrosoftのBing Image CreatorのようなツールにDALL-E 3テクノロジーが搭載されたことで、AIが生成した画像はこれまで以上にリアルになり、本物と見分けるのがさらに難しくなった。

これは順調な船出だったということではない。この技術をツールに組み込んでから数日後、懸念を抱くユーザーから、生成スピードが遅いという報告がいくつか寄せられた。しかも、AIが生成した画像を識別できるツールを開発する試みは、OpenAIにとってこれが初めてではない。今年初め、同社は同様のツールを発表したが、信頼性が低く不正確だったため、既に存在すら忘れ去られていることだろう。

OpenAIはまた、視覚的に生成されたコンテンツの視覚的な側面だけでなく、音声の世界にもその能力を拡大するために、ソフトウェアの改良に懸命に取り組んでいることを明らかにした。

慣習的に正しいと考えられていることと、明白な違反との間には微妙な境界線がある。Bing Image Creatorの大型アップデート以来、検閲はユーザーの間で大きな懸念となっている。Microsoftはすでに、このツールの厳しいモデレーションに対処する意向を表明しているが、現時点で実現できることは限られている。

ChatGPTの精度が低下したためか、ユーザー数が減少していることを強調する報告も目にした。しかし、99％の精度を約束するのであれば、このツールの価値は計り知れない。

その他、OpenAIの幹部は、GPT-4の後継機（GPT-5かもしれない）が開発中で、近々リリースされる可能性があることを示唆した。同社はまた、幻覚を軽減するために設計された、AIを搭載したチャットボット「ChatGPT」の微妙な改良を強調した。

Sources

• Bloomberg: OpenAI Says New Tool Will Detect Images Made by Dall-E