ハリウッドは未来を予測するのが得意だと思われるかもしれない。実際、CIAのOffice of Technical Serviceの責任者で、MI6の架空のQに相当する米国のロバート・ウォレスは、ロシアのスパイが最新のボンド映画を見て、どんな技術が自分たちのところにやってくるかを確認したと語っている。

したがって、ハリウッドが殺人ロボットにこだわり続けていることは、重大な関心事と言えるかもしれない。そのような映画の最新作は、Apple TVが近日公開予定のセックスロボット法廷劇『Dolly』である。

まさか「セックスロボット法廷劇」というフレーズを書くとは思わなかったが、それはおいておこう。エリザベス・ベアーの2011年の短編小説が原作で、セックスロボットに殺された億万長者が、その殺人行為を弁護する弁護士を依頼するという筋書きである。

真の殺人ロボット

キューブリック監督の『2001年宇宙の旅』のHALや、アーノルド・シュワルツェネッガー監督の『ターミネーター』シリーズのT-800など、殺人ロボットが登場する映画は枚挙に暇がない。実際、ロボットと人間の対立は、最初の長編SF映画である1927年のフリッツ・ラング監督の名作『メトロポリス』の中心テーマとなっている。

しかし、これらの映画はほとんどすべて間違っている。殺人ロボットは、悪意を持った人型ロボットではないのだ。これはドラマチックなストーリーと興行的な成功をもたらすかもしれないが、そのような技術は何世紀とは言わないまでも、何十年も先の話なのである。

実際、最近の懸念に反して、ロボットが感覚を持つことはないかもしれない。

私たちが心配すべきは、もっと単純な技術なのだ。ウクライナやナゴルノ・カラバフのような戦場では、そのような技術が登場し始めているのである。

変貌する戦争

『エンド・オブ・ステイツ』（2019）や『アイ・イン・ザ・スカイ 世界一安全な戦場』（2015）など、もっとシンプルな武装ドローンが登場する映画は、殺人ロボットの本当の未来を最も正確に描いているといえるかもしれない。

毎晩のテレビニュースでは、ますます自律化するドローン、戦車、船、潜水艦によって現代の戦争がどのように変容していくかを見ることができる。これらのロボットは、近所のホビーショップで購入できるものより少し洗練されているに過ぎない。

そして、ターゲットを特定し、追跡し、破壊するための決断は、ますますアルゴリズムに委ねられている。

これは、道徳的、法的、技術的に多くの問題を抱えながら、世界を危険な場所に連れて行こうとしている。このような兵器は、たとえば、問題を抱えた地政学的状況をさらに混乱させることになるだろう。すでにトルコがドローン大国として台頭しているのを目にしている。

そして、そのような兵器は道徳的なレッドラインを越えて、責任感のない機械が誰の生死を決めるという恐ろしくて恐ろしい世界へと向かっていくのだ。

しかし、ロボットメーカーは、このような未来に背を向け始めている。

兵器にしないという誓い

先週、大手ロボットメーカー6社が、自社のロボットプラットフォームを決して兵器化しないことを誓った。その中には、見事なバク転をする人型ロボット「Atlas」や、テレビドラマ『ブラックミラー』シリーズから飛び出してきたようなロボット犬「Spot」を製造するボストン・ダイナミクス社も含まれている。

ロボット企業がこの心配な未来について発言するのは、今回が初めてではない。5年前、私はイーロン・マスクをはじめとする100社以上のAI・ロボット企業の創業者が署名した公開書簡を企画し、国連に殺人ロボットの使用を規制するよう呼びかけた。この手紙は、ローマ法王を世界軍縮賞の3位に追いやったほどだ。

しかし、大手ロボット企業が自社のロボットプラットフォームを兵器化しないことを誓約していることは、何よりも美徳の象徴である。

例えば、ボストン・ダイナミクス社のロボット犬「Spot」のクローンに第三者が銃を搭載することは、すでに行われている。そして、そのような改造ロボットは、実際に有効であることが証明されている。イランの核科学者トップは、2020年にイスラエルの工作員によってロボットマシンガンを使って暗殺された。

未来を守るための集団行動

この恐ろしい未来から私たちを守る唯一の方法は、化学兵器や生物兵器、そして核兵器の場合と同じように、各国が共同で行動を起こすことだ。

化学兵器の規制が完璧でないように、このような規制も完璧ではないだろう。しかし、武器会社が公然とそのような兵器を販売すること、ひいてはその拡散を防ぐことができるだろう。

したがって、国連人権理事会が最近、自律型兵器のような新しく出現した技術の人権への影響を調査することを全会一致で決定したことは、ロボット企業の誓約以上に重要なことなのだ。

すでに数十カ国が、国連に殺人ロボットを規制するよう求めている。欧州議会、アフリカ連合、国連事務総長、ノーベル平和賞受賞者、教会指導者、政治家、そして私のようなAIやロボットの研究者数千人が、規制を要求しているのだ。

オーストラリアは、今のところ、これらの呼びかけを支持する国ではない。しかし、このハリウッドの未来を避けたいのであれば、今度政治家の代表に会ったときに、この件を取り上げてみてはどうだろうか。

本記事はThe Conversationに掲載された記事「‘Killer robots’ will be nothing like the movies show – here’s where the real threats lie」について、Creative Commonsのライセンスおよび執筆者の翻訳許諾の下、翻訳・転載しています。