米国のアマチュア囲碁棋士が、高ランクのAIシステム「KataGo」を打ち負かしたことを、Financial Times紙が報じた。数年前であれば、AIが人間に勝利したことの方にニュースバリューがあったが、現在は全く逆の状況になっているのはなんとも皮肉な話ではある。

GoogleのAlphaGoが世界トップの囲碁棋士である、柯潔氏に勝利して以来、人間が囲碁でコンピュータに勝利することは困難と考えられていたが、今回AIに勝利したKellin Pelrine氏は、コンピュータを利用してKataGoの欠陥を突き止め、そこを突くことで、最終的にはコンピュータの助けなしに15局中14局を勝ち抜いたという。これは、最も高度なAIシステムであっても、驚く程単純なミスを犯すことを露呈した結果となった。

Pelrine氏の勝利は、FAR AIという研究会社が、KataGoの弱点を探るプログラムを開発したことによって実現した。FAR AIは、100万局以上対局した結果、まともなアマチュア棋士でも利用できるようなKataGoの弱点を発見したという。Pelrine氏は、「完全に些細なことではないが、超困難なことでもない」と語った。彼は同じ方法で、もうひとつのトップ囲碁AIであるLeela Zeroも打ち破った。

その方法は、石で大きな「輪」を作って相手のグループを囲み、碁盤の他の領域で手を打ってコンピュータの注意をそらすというものだ。自分のグループが包囲されそうになっても、コンピュータはその作戦に気づかなかった。Pelrine氏は、「人間であれば、簡単に見破れるはずです。」と、AIの弱点について指摘する。

この欠陥は、AIが訓練以上の「思考」ができないため、人間から見ると信じられないほど愚かなことをしばしば行ってしまうことを示している。Microsoftの検索エンジン「Bing」で採用されているようなチャットボットでも、同じようなことが起きている。このボットは、旅行の日程表を作成するような反復作業を得意とする一方で、簡単に騙されて情報を提供してしまったり、愚かな発言を行ってしまうことが判明し、Microsoftはこれに対応する為にチャットボットの利用セッション数に制限を設けている。

今回の囲碁の対戦結果について、KataGoの開発元であるLightvector社は、数カ月前からプレーヤーが悪用しているこの問題を確実に認識している。GitHubへの投稿では、この問題を利用した様々なタイプの攻撃への修正に取り組んでいると述べている。

人間でも侵さないような簡単なミスを犯すAIだが、弱点を克服しながら成長していく様は、まるで人間のようでもある。

Source

• Financial Times: Man beats machine at Go in human victory over AI 
• via Ars Technica