近年の人工知能（AI）の進歩は、時に人間を置き去りにするほどなのではないかと思わされるが、実際にAIの驚異的な進歩について、開発者自身も理解できていない部分が多い。
CBSの『60 Minutes』とのインタビューで、Googleの技術幹部James Manyika氏は、同社のAIが訓練を受けていない言語を何らかの方法で学習したと発言している。
「ベンガル語でごくわずかなプロンプトを出すだけで、ベンガル語のすべてを翻訳できることがわかったのです」とManyika氏は述べている。
CBSが指摘するように、この種の「創発特性」は「神秘的」であり、一般的になっても開発者を困惑させ続けている。
その後、CEOのSundar Pichai氏もインタビューの中で、AIには専門家でも説明できないような奇妙なことが実際に起こっていると断言している。
「AIには“ブラックボックス”と呼んでいる側面があります。-私たち現場の全員がそう呼んでいます。完全に理解出来ていません。そして、なぜこのようなことを（AIが）言ったのかがよくわからないのです」。
CBSのインタビュアー、Scott Pelley氏もPichai氏に、自社の開発者が「AIがどう動くか完全に理解していない」場合に、Googleが「（AIを）社会に放つ」ことがどれほど安全かについて質問している。
これに対してPichai氏はこう述べている「私たちも人間の心の動きを完全に理解しているとは思っていません」。
Googleが10年近く前に買収したDeepMind社を作ったDemis Hassabis氏は、あまり心配していない。AIは自らを向上させるようにプログラムされ、その目標に向かってノンストップで働くことができるが、人間は無限に適応できる種族だ。私たちがスマートフォンやコンピューティングデバイスに適応してきたように、AIの存在にも適応していくことだろう。
Source
