AI規制に関する恐怖と協議の中で、Antonio Guterres国連事務総長は月曜日、国際原子力機関（IAEA）のようなAIの国際監視機関の設立に関する特定のAI幹部による提案に賛同を表明した。

Guterres氏は、最新のAIを取り巻く警告、特に開発者自身からの警告に耳を傾けることが急務であることを強調した。Guterres氏は、「我々はこれらの警告を真剣に受け止めなければならない」と述べている。AIに関する懸念は、テキストを生成する大規模言語モデルのような技術で、深い偽画像を生成し、誤った情報を伝播する可能性について生じている。

こうした懸念に対処するため、Guterres氏は、年内にハイレベルのAI諮問機関の設立を開始する計画を発表した。この機関は、AIガバナンスの枠組みを定期的に評価し、人権、法の支配、共通善とどのように整合させるかについて提言を行う予定だ。事務総長は、このAI機関モデルを潜在的に「非常に興味深い」と評価する一方、このような機関を創設する権限を持つのは国連事務局ではなく、加盟国であることを明らかにした。

ウィーンに本部を置き、1957年に設立されたIAEAは、原子力技術の安全かつ平和的な利用を促進し、176の加盟国とともに核不拡散条約（NPT）の遵守を監視している。

求められる連携

G7において、今年中にAI関連の国際的な規制について話し合う会議が設けられる事は合意に至ったが、AI規制に関しては、参加国すべてが同じ考えであることを確認することが重要だ。日本においてもAI規制でどのような立ち位置にいるのかはまだ明確ではなく、考えがまとまっていないのが現状だ。

OpenAIのCEOであるSam Altman氏は、先月の米国上院で、IAEAに似た機関がAIの展開に制限を加え、安全基準の遵守を確認し、コンピューティングパワーの活用を監視することができると提案した。しかしその反面、米国がAIの領域で中国の進歩を封じ込めようとしている一方で、最近ではOpenAIも、AIのリスクを軽減し、AIの安全ガイドラインを形成するために中国との協力を呼びかけている。

イギリスのRishi Sunak首相もこの考えを支持する声を上げ、イギリスがAI安全規制の世界的なハブになることを望んでいることを表明している。今年後半、英国はAIに関連するリスクに対処するための国際的な協調努力を探るサミットを開催する予定だ。

Guterres氏は、英国でのサミットの提案を歓迎しつつも、事前に実質的な準備作業を行うことの重要性を強調した。また、AI専門家と国連機関の主任科学者からなる科学諮問委員会を近日中に任命する意向を示した。

Source

• Reuters: UN chief backs idea of global AI watchdog like nuclear agency