OpenAIがテキストがAIによって生成されたかを検出できるとするツール「AI text classifier」を公開

OpenAIは、入力コンテンツがChatGPTのようなAIツールを使って生成されたものかどうかを検出出来るとするツール「AI text classifier（AIテキスト分類器）」を公開した。

「AI text classifierは、テキストの一部がChatGPTのような様々なソースからAIによって生成された可能性がどれくらいあるかを予測する、微調整されたGPTモデルです。」と、OpenAIのブログ投稿では説明されている。

ただし、このブログ投稿では、以下のように、その精度は高くはないことも加えて述べられている。

我々の分類器は完全な信頼性を持っているわけではありません。英語のテキストからなる「チャレンジセット」を用いた評価では，我々の分類器は26%のAIで書かれたテキストを「AIで書かれた可能性が高い」と正しく識別し（真陽性）、9%の確率で人間が書いたテキストをAIで書かれたものと誤ってラベル付けしています（偽陽性）。当社の分類器は、入力テキストの長さが長くなるほど信頼性が向上します。以前リリースした分類器と比較すると、この新しい分類器は、より最近のAIシステムのテキストに対する信頼性が大幅に向上しています。
OpenAI

さらに、このツールの使用については、かなり多くの警告が出されている。ツールページには、検出したいテキストを入力するテキストボックスの上に、いくつかの制限事項が書かれている。

1,000文字以上（約150～250文字）が必要です。
分類器は必ずしも正確ではなく、AIが生成したテキストと人間が書いたテキストの両方を誤って分類してしまうことがあります。
AIが生成したテキストは、分類器を回避するために簡単に編集することができます。
分類器は、主に大人が書いた英語のコンテンツで学習させたため、子供が書いたテキストや英語でないテキストでは間違う可能性が高いです。

このツールは、使用するには無料のOpenAIのアカウントが必要だ。テキストをボックスに貼り付けて、ボタンをクリックするだけで、そのテキストが「非常にありそうにない」、「不明確である」、「おそらく、AIによって生成された可能性が高いと考える」かどうかを教えてくれるシンプルなものである。

ChatGPTが作成したテキストを検出するツールを開発したのはOpenAIが初めてではない。チャットボットが流行したほぼ直後に、Edward Tianという学生が作った「AI盗作を検出する」GPTZeroのようなサイトも流行した。

OpenAIがこの検出技術で本当に力を入れているのは、教育とのことだ。同社のプレスリリースによると、「AIが書いた文章を特定することは、教育関係者の間で重要な論点となっている」といい、さまざまな学校がChatGPTを禁止したり受け入れたりすることで反応している。同社は、教室でChatGPTから何が見えるかを把握するために「米国の教育関係者と関わっている」とし、教育に携わる人からのフィードバックを募っている。

Source