OpenAI、選挙候補者をシミュレートした“公認”のチャットボットをポリシー違反で停止

OpenAIは少し前に、2024年の選挙期間中、同社のAIモデル「ChatGPT」と「DALL-E」の使用を規制する方針を明らかにした。その新しいポリシーのひとつは、OpenAIのツールやサービスが、実際の選挙候補者のシミュレーション版を作成するために使用されることを許可しないというものだった。

今週末、OpenAIは、早速そのポリシーを適用し、ChatGPTを使ってミネソタ州第3選挙区のDean Phillips下院議員をシミュレートするチャットボットを作成した開発者を禁止した。Phillips氏は民主党の大統領候補で、現大統領のJoe Biden氏との長期戦が予想されている。

The Washington Post紙によると、「Dean.Bot」は開発会社のDelphi社によって作成された。Phillips氏の選挙キャンペーンを支援するために作られたスーパーPAC「We Deserve Better」から資金提供を受けていた。このボットはなりすましではなく、利用する前に、Web サイト訪問者にはチャットボットの性質を説明する免責事項が表示され、これがAIツールであることも明示されていたが、それでもなお、このようなチャットボットの作成はOpenAIの規則に違反していた。

木曜日、We Deserve BetterスーパーPACはDelphi社に対し、”Dean.Bot”にChatGPTを使用せず、代わりにオープンソースベースのAIモデルを使用するよう要請した。だがその翌日、ChatGPTが開発者を停止したため、Delphi社はチャットボットを完全に停止した。この記事にはChatGPTの広報担当者の言葉が引用されている：

「私たちのツールでビルドする人は、私たちの使用ポリシーに従わなければなりません。私たちは最近、政治的なキャンペーンや同意のない個人へのなりすましを禁止するAPI利用ポリシーに故意に違反していた開発者のアカウントを削除しました」。

この記事はまた、スーパーPACの共同設立者の一人であるMatt Krisiloff氏が、以前はOpenAIの共同設立者で現CEOのSam Altman氏のチーフスタッフだったことにも触れている。Krisiloff氏は、Altman氏はスーパーPACには関与していないと主張しているが、Phillips議員と過去に会ったことがあることは認めている。

Sources