Future of Life Instituteは、「Pause Giant AI Experiments: An Open Letter」と題したオープンレターを発表し、GPT-4より強力なAIを訓練するすべての組織に対して、今後6ヶ月間の一時停止を呼びかけた。

この書簡には、1,100人以上の科学者・実業家らが署名し、中にはTesla CEOのElon Musk氏、Appleの共同創設者Stephen Wozniak氏、歴史学者のYuval Noah Harari氏といった著名人の支持を得ている。

中でもMusk氏はOpenAIに対してかねてより批判をしており、2月には「OpenAIはGoogleに対抗するためにオープンソース（だから “Open “AIと名付けた）で非営利の会社として作られたが、今はMicrosoftに事実上支配されたクローズドソースで最大利益の会社になってしまった」とツイートしていた。「私が意図したものとはまったく違う」

書簡では以下のように述べられている。

私たちは、すべてのAI研究所に対し、GPT-4より強力なAIシステムの訓練を少なくとも6ヶ月間、直ちに一時停止することを求めます。この一時停止は、公的かつ検証可能であり、すべての主要な関係者を含むものでなければならない。このような一時停止が迅速に実施できない場合は、政府が介入し、モラトリアムを制定すべきです。

この書簡は、「AI研究所は、誰も（その作成者でさえも）理解することができず、予測することもできず、確実に制御することもできない、これまで以上に強力なデジタルマインドを開発し展開するための制御不能な競争に陥っている」ため、一時停止するよう主張している。書簡はこう続く

AI研究所と独立した専門家は、この休止期間を利用して、独立した外部の専門家によって厳格に監査・監督される、高度なAIの設計と開発に関する一連の共有安全プロトコルを共同で開発・実施すべきである。これらのプロトコルは、それを遵守するシステムが合理的な疑いを超えて安全であることを保証するものでなければならない。これは、AI開発全般の一時停止を意味するものではなく、単に、創発的な能力を持つ予測不可能なブラックボックスモデルをより大きくする危険な競争から一歩後退させることを意味するものです。

AIの研究開発は、今日の強力な最先端システムをより正確、安全、解釈可能、透明、堅牢、整列、信頼、忠実なものにすることに再注目されるべきです。

先月、MicrosoftがBingチャットボットを公開したことをきっかけに、「Unplug The Evil AI Right Now」というchange.orgの嘆願書が出回った。

Future of Life Instituteは、核戦争のリスク低減とAIガバナンスの向上をミッションとする非営利団体だ。著名な物理学者であるMax Tegmark氏が代表を務め、Skypeの共同創業者であるJaan Tallin氏とDeepMind研究所の研究者であるVictoria Krakovna氏が役員を務めている。研究所には、Musk氏が外部アドバイザーとして掲載されている。

前文は以下のソースからご覧頂ける。

Source

• Future of Life Institute: Pause Giant AI Experiments: An Open Letter
• via TechCrunch: 1,100+ notable signatories just signed an open letter asking “all AI labs to immediately pause for at least 6 months”