私たちをより効率的に、よりクリエイティブにするために設計されたと思われる人工知能（AI）アプリの氾濫は、ほとんどの人が知っていることだろう。テキストプロンプトを受け取ってアートを生成するアプリや、オリジナリティ、誤報、盗作について深刻な問題を提起し、物議を醸したChatGPTなどがある。
こうした懸念にもかかわらず、AIはますます普及し、侵入しやすくなっている。それは、私たちの生活を不可逆的に変える最新のテクノロジーなのだ。
インターネットやスマートフォンもその一例だった。しかし、それらの技術とは異なり、多くの哲学者や科学者は、AIがいつの日か人間型の「思考」に到達する（あるいはそれを超える）可能性があると考えている。この可能性は、AIへの依存度が高まることと相まって、未来学で「シンギュラリティ（技術的特異点）」と呼ばれる概念の根底にあるものである。
この言葉は、数十年前に米国のSF作家Vernor Steffen Vingeが広めたもので、以前からある。
今日、「シンギュラリティ」とは、汎用人工知能（AGI）、すなわち人間レベルの能力を持つAIの開発が進み、人類の文明が不可逆的に変化する時点を想定したものである。
それは、私たちが機械と切っても切れない関係にあることの幕開けである。その瞬間から、私たちは人間として機能しなくなり、機械なしでは生きられなくなる。しかし、シンギュラリティが到来した場合、私たちはそれに気づくことができるのだろうか？
第一段階としての脳内インプラント
なぜこれがおとぎ話のような話ではないのかを理解するためには、最近のブレイン・コンピュータ・インターフェイス（BCI）の開発に注目すれば良いだろう。BCIは、多くの未来学者の目には、シンギュラリティへの自然な始まりとして映っている。なぜなら、BCIは、これまでの他の技術では不可能だった、心と機械の融合を実現しているからだ。
Elon Musk氏の会社Nuralinkは、BCI技術の人体実験開始の許可を米国食品医薬品局から求めている。これは、ボランティアの脳に神経コネクターを埋め込み、考えることで指示を伝えることができるようにするものだ。
Nuralinkは、下半身不随の人が歩けるように、目の見えない人が再び見えるようになることを望んでいる。しかし、この目標の先には、別の野望がある。
Musk氏は以前から、脳インプラントによってテレパシーコミュニケーションが可能になり、人間と機械の共進化につながると考えていると語っている。彼は、そのような技術を使って知性を増強しない限り、超知的なAIに全滅させられる危険性があると主張している。
Musk氏は、当然のことながら、技術的な専門知識について全てを知っているわけではない。しかし、AIの能力が大きく成長すると予測しているのは彼だけではない。調査によると、AI研究者の間では、AIが今世紀中に人間レベルの「思考」を実現するという意見が圧倒的に多い。しかし、それが意識を意味するのかしないのか、あるいは、このレベルに達したAIが私たちに害をなすことを必ずしも意味するのかについては、意見が一致していない。
別のBCI技術企業であるSynchronは、筋萎縮性側索硬化症（ALS）の患者が自分の思考を使ってメールを送ったりインターネットを閲覧したりできるようにする低侵襲のインプラントを作った。
SynchronのCEOOであるTom Oxley氏は、脳インプラントが最終的には義肢装具のリハビリを超えて、人間のコミュニケーション方法を完全に変えることができると考えている。TEDの聴衆を前にして、彼は、脳インプラントがいつの日かユーザーの感情を「投げる」ことを可能にし、他の人が自分の感じていることを感じられるようになるかもしれないと述べ、「脳の潜在能力を完全に引き出すことができる」と語った。
BCIの初期の成果は、人間と機械が一体となるシンギュラリティに向かう最初の段階と考えることが出来るだろう。これは、機械が「感覚」を持ち、私たちをコントロールするようになることを意味するものではない。しかし、統合されること自体、そしてそれに依存することで、私たちは取り返しのつかない変化を遂げるかも知れない。
また、Synchronの創業資金の一部は、インターネットを世界に広めた米国国防総省の研究開発部門であるDARPAから提供されていることも特筆すべき点である。DARPAがどこに投資するかは、気にしたほうがいいかも知れない。
AGIは敵か味方か？
未来学者で元Googleのイノベーション・エンジニアであるRay Kurzweil氏によれば、AIによって拡張された心を持つ人間は、進化のアウトバーンに放り出され、速度制限なしに前進する可能性があるという。
Kurzweil氏は、2012年に出版した『How to Create a Mind』の中で、感覚や感情、認知といった「高次機能」をつかさどる脳の一部である大脳新皮質は、パターン認識の階層的システムであり、機械で模倣すれば人工超知能につながると説いた。
彼は、シンギュラリティが2045年までに到来すると予測し、超知的な人間の世界、ひょっとしたらニーチェの「Übermensch（超人）」（この世のあらゆる制約を乗り越えて自分の可能性を最大限に発揮する人）が到来するかもしれないと考えている。
しかし、すべての人がAGIを良いことだと考えているわけではない。偉大な理論物理学者の故Stephen William Hawkingは、超知的なAIが終末をもたらす可能性があると警告した。2014年、Hawking博士はBBCに次のように語っている。
完全な人工知能が開発されれば、人類は終わりを告げるかもしれません。人工知能は勝手に動き出し、どんどん自己設計を変えていくでしょう。生物学的な進化のスピードが遅い人間では太刀打ちできず、淘汰されるでしょう。
しかし、Hawking氏はBCIの支持者でもあった。
集合意識でつながる
シンギュラリティに関連するもう一つの考え方は、AIを活用した「集合意識」である。Merriam-Websterは、集合意識を次のように定義している。
ハチやアリなどの社会性昆虫のコロニーの複雑で協調的な行動で表現される集団的な精神活動は、個々の生物の行動を制御する単一の精神に匹敵すると考えられている。
この現象について、神経科学者のGiulio Tononi氏が「統合情報理論（IIT）」と呼ぶ理論を開発した。これは、私たちがすべての心とすべてのデータの統合に向かっていることを示唆している。
哲学者のPhilip Goff氏は、著書『Galileo’s Error』の中で、Tononi氏の概念の意味するところをうまく説明している。
IITは、インターネット接続の発展により、社会の統合情報量が人間の脳の統合情報量を超えた場合、社会が意識を持つようになるだけでなく、人間の脳もその高い意識に「吸収」されると予測している。脳はそれ自体で意識されることはなく、インターネットを含む社会という巨大な意識体の歯車に過ぎなくなるのである。
しかし、そのようなことが実現できる証拠はほとんどない。しかし、この理論は、テクノロジーの急速な加速だけでなく（量子コンピュータがこれを促進する可能性は言うまでもない）、意識の性質そのものについても重要な考えを提起している。
仮定の話ですが、仮に集合意識が出現した場合、民主主義をはじめとする個性やそれに依存する制度が終焉を迎えることが予想される。
最後のフロンティアは、耳の間にある
最近、OpenAI（ChatGPTを開発した会社）が、AGIの実現に向けたコミットメントを再確認するブログ記事を発表した。他の企業も間違いなく追随するだろう。
私たちの生活は、しばしば見分けがつかず、それゆえ避けることもできない方法で、アルゴリズムに支配されつつある。シンギュラリティ（技術的特異点）の多くの特徴は、私たちの生活の驚くべき向上を約束してくれるが、これらのAIが民間企業の製品であることが心配だ。
事実上、規制はなく、私たちのほとんどを上回る資金を持つ衝動的な「テクノプレナー」の気まぐれに左右されることがほとんどだ。彼らがクレイジーか、ナイーブか、あるいは先見の明があるかどうかにかかわらず、私たちには彼らの計画を知る（そして反論できる）権利がある。
過去数十年間を振り返ってみると、新しいテクノロジーは、私たちすべての人に影響を与えているのだ。
コメントを残す