元GoogleのCEO、AIの開発停止は「中国を利するだけ」と警告

Elon Musk氏やSteve Wozniak氏といったテック界のリーダーたちが支持する停止は、「単に中国を利するだけ」だと、Schmidt氏は木曜日にAustralian Financial Reviewに語っている。

「早急に皆を集めて、適切なガードレールは何かを議論することです」

「確かに、懸念は控えめかもしれないと思う。私は…人々が言っているよりも事態は悪化する可能性があると思う」と述べ、Schmidt氏は、人類はまだAIがもたらす危険性を理解できていないかもしれない、それ自体が問題かもしれないと説明する。

「このシナリオでは、大規模言語モデルがあり、それが大きくなるにつれて、私たちが理解できないような創発的な振る舞いをする」

Schmidt氏のコメントは、ChatGPTやAI画像生成ツールMidjourneyなどのツールが巻き起こした世界的なAI革命と重なるものだ。

Google、Meta、Microsoftなどの企業やBaiduなどの中国企業は、人工知能の分野で次に何が起こるかを必死で予測しようとしている。

ChatGPTのようなチャットボットであるErnie Botが3月に登場したとき、中国の投資家を失望させ、Baiduは30億ドルの市場価値を失うことになった。しかし、そのことが、後にチャットボットの能力を強化することを止めていない。

「まだ完璧ではないのに、なぜ今日リリースする必要があるのでしょうか？」と、BaiduのCEOであるRobin Li氏は、ローンチの際にこう語っている。「市場が求めているからです」

先月、AI研究所に宛てた公開書簡では、AIによる深刻な “社会と人類へのリスク”に対処するため、高度なAIシステムの開発を停止するよう求めている。

一時的な禁止、最低6ヶ月の「モラトリアム」、GPT-4より堅牢なAIシステムの開発の緊急停止が、1,000人以上の有力指導者から要求された。

Schmidt氏は、書簡で提起された心配事にもかかわらず、研究者は「ネガティブなことをしかねないものに対して、何らかの緩和策を講じて」AIアルゴリズムを公開すべきだという意見を持っている。

Schmidt氏は、セクターが保護を作らないのであれば、政治家が介入しなければならないと考えているが、現時点での政府の回答は、技術を考慮していないため厄介だとも指摘している。

Source