プリンストン大学の22歳の学生が、文章がOpenAIのChatGPTによって書かれた、人間によって書かれたのかを「迅速かつ効率的に」見分けることができると主張するアプリ、GPTZeroを作成し、アプリ作成・ホスティングプラットフォームのStreamlitにて公開した。
作成者のEdward Tian氏は、これがそれ程注目を集める物ではないと思っていたようだが、ChatGPTがここ数カ月、学生たちが瞬く間に小論文を作成するために使用することができるという懸念が多く出てきていることから、彼の予想に反して大きな話題を呼んでいる。
ジャーナリズムを専攻しているTian氏は、AIによる盗作問題が深刻化していることを受け、自分のボットを作ろうと思ったようだ。
ChatGPTを紹介するツイートの中で、Tian氏は「Chatgptの誇大広告がたくさん出回っています。私たち人間は知る資格がある！」と述べている。
発売から1週間で、3万人以上がGPTZeroを試したとのことだ。あまりの人気ぶりに、アプリがクラッシュするほどだった。GPTZeroをホストする無料プラットフォームStreamlitは、その後、Webトラフィックを処理するためにメモリとリソースを増やしてTian氏のサポートに乗り出した。
1月2日にボットを公開したところ、多くの教師から問い合わせがあり、テストした結果、良い結果が得られたと、Tian氏は述べている。
GPTZeroはChatGPTと同様のデータセットで学習するため、テキストの比較複雑度（「perplexity」リーディング）を測定することができる。GPTZeroのボットにとって馴染みのあるテキストであれば、それはAIによって生成された可能性が高いのだ。
GPTZeroが行うもう一つの読み取りは、「バースト性」と呼ばれるものだ。これは、文の長さやその他いくつかの要因のばらつきを指す。人間はバリエーションに富んだ文章を書く傾向があるが、AIが生成した文章は画一的であることが多いのだ。
Tian氏は、GPTZeroを使って、ChatGPTが故意に書いた記事と一緒にThe New Yorkerに掲載された記事を分析したデモ動画（上）を公開した。GPTZeroは、AIが書いたテキストとThe New Yorkerの記事を見分けることに成功している。
Tian氏の研究は、教師がカンニングをする生徒を捕まえるのに役立つ大きな可能性を持っているが、100％確実というわけではない。
それでもTian氏は、自分の作品がAIの透明性を高めるための始まりになると考えている。彼はTwitterで、「長い間、AIは内部で何が起こっているのか本当にわからないブラックボックスだった。そしてGPTZeroで、私はその背中を押して戦い始めたかったのです。」と述べている。
だが、ChatGPTは悪いことばかりではない。テキスト生成ボットの開発元であるOpenAIは最近、AIの盗作やその他の非倫理的な利用を防止するための取り組みを発表している。また、ある内部情報筋は最近、Microsoftがこの技術を活用してBing検索エンジンを強化し、Googleの検索エンジン支配を打破することを検討していると述べている。
Source
コメント