ハイテク億万長者たちは破滅に備えているようだ。心配する必要はありますか？

マーク・ザッカーバーグは、2014年にハワイのカウアイ島にある広大な1,400エーカーの敷地であるコオラウ牧場での作業を開始したと言われている。

ワイアード誌の報道によると、この敷地には独自のエネルギーと食糧供給を備えた避難所が建設される予定だが、現場で働く大工や電気技師らは機密保持契約によりそれについて話すことを禁じられていたという。

高さ 6 フィートの壁により、近くの道路からの視界が妨げられました。

フェイスブックの創設者は昨年、終末バンカーを作るのかと問われ、きっぱり「ノー」と答えた。約5,000平方フィートにわたる地下空間は、「まるで小さな避難所のような、まるで地下室のようだ」と彼は説明した。

それでも憶測は止まらない。カリフォルニア州パロアルトのクレセントパーク地区にある11の不動産を購入し、地下に7,000平方フィートの地下空間を追加するという同氏の決定についても同様だ。

ニューヨーク・タイムズ紙によると、彼の建築許可証には地下室が記載されているが、近所の人たちの中にはそれをバンカーと呼んでいる人もいるという。あるいは億万長者のコウモリの洞窟。

次に、他のテクノロジーリーダーに関する憶測もあり、その中には数百万ポンドの豪華な地下壕への転用の機が熟した地下空間のある土地の買い占めに忙しかった人もいるようだ。

LinkedInの共同創設者リード・ホフマン氏が「終末保険」について語った。これは超富裕層の約半数が持っている額であり、ニュージーランドは人気の住宅地であると同氏は以前主張していた。

では、彼らは本当に戦争や気候変動の影響、あるいは私たちの残りの人々がまだ知らない他の壊滅的な出来事に備えているのだろうか？

ここ数年、人工知能 (AI) の進歩は、潜在的な実存的危機のリストに加わるだけです。進行のあまりの速さに多くの人が深く心配しています。

Open AI の共同創設者で首席研究員の Ilya Sutskever 氏もその 1 人であると報告されています。

サンフランシスコに本拠を置く同社は、2023 年半ばまでに ChatGPT (現在世界中で何億人もの人々が使用しているチャットボット) をリリースし、迅速にアップデートに取り組んでいました。

しかし、ジャーナリストのカレン・ハオ氏の著書によると、その夏までにサツケヴァー氏は、コンピューター科学者は汎用人工知能（AGI）、つまり機械が人間の知能に匹敵する段階に達する寸前にあると確信するようになったという。

ハオ氏の報告によると、サツケヴァー氏は会議の中で、このような強力な技術が世界に公開される前に、会社のトップ科学者のために地下シェルターを掘るべきだと同僚に提案したという。

「AGIを解放する前に、我々は間違いなくバンカーを建設するつもりだ」と彼が言ったと広く報じられているが、彼が「我々」という言葉が誰を指していたかは不明である。

それは奇妙な事実を明らかにしている。多くの主要なコンピュータ科学者やテクノロジーリーダーたち（その中には、非常にインテリジェントな形態の AI の開発に熱心に取り組んでいる人もいる）も、いつかそれが何ができるようになるのかを深く恐れているようだ。

それでは、AGI が登場するのは、正確にはいつになるのでしょうか?そして、それは本当に一般人を怖がらせるほどの変革をもたらすことができるのだろうか？

テクノロジー業界のリーダーたちは、AGI が差し迫っていると主張しています。 OpenAIのボス、サム・アルトマン氏は2024年12月に、それは「世界中のほとんどの人が思っているよりも早く」起こるだろうと述べた。

DeepMind の共同創設者であるデミス・ハサビス卿は今後 5 ～ 10 年以内に起こると予測しており、Anthropic の創設者であるダリオ・アモデイ氏は昨年、彼の好む用語である「強力な AI」が早ければ 2026 年に登場する可能性があると書いています。

他は疑わしいです。 「彼らは常にゴールポストを動かします」とサウサンプトン大学のコンピューターサイエンス教授、デイム・ウェンディ・ホールは言う。 「それは誰と話すかによって決まります。」電話中ですが、目を回す音が聞こえてきそうです。

「科学界はAIテクノロジーが素晴らしいと言っていますが、それは人間の知能には遠く及びません。」と彼女は付け加えた。

テクノロジー企業コグニザントの最高技術責任者ババク・ホジャット氏も、まず多くの「根本的なブレークスルー」が必要だろうと同意する。

さらに言えば、それは一瞬として到来する可能性は低いです。むしろ、AI は急速に進歩しているテクノロジーであり、現在も進化を続けており、世界中の多くの企業が独自のバージョンの開発を競っています。

しかし、このアイデアがシリコンバレーの一部の人を興奮させる理由の 1 つは、このアイデアがさらに高度なもの、つまり人間の知能を超える技術である ASI (人工超知能) の前兆であると考えられているからです。

「特異点」という概念がハンガリー生まれの彼の死後に帰せられたのは1958年のことだった。 数学者ジョン・フォン・ノイマン。 コンピューターの知能が人間の理解を超えて進歩する瞬間を指します。

最近では、エリック・シュミット、クレイグ・マンディ、故ヘンリー・キッシンジャーが執筆した2024年の本『創世記』では、意思決定とリーダーシップにおいて非常に効率的になり、最終的には完全に制御を委ねてしまう超強力なテクノロジーのアイデアが探求されています。

彼らが議論するかどうかではなく、いつ議論するかが問題です。

AGI と ASI を支持する人々は、その利点についてほぼ福音主義的です。それは致命的な病気の新たな治療法を発見し、気候変動を解決し、無尽蔵のクリーンエネルギーの供給を発明するだろうと彼らは主張する。

イーロン・マスクは、超インテリジェントAIが「普遍的高収入」の時代をもたらす可能性があるとさえ主張した。

彼は最近、AIが非常に安価で普及し、事実上誰もが「自分専用のR2-D2とC-3PO」（スター・ウォーズのドロイドを参照）を欲しがるようになるだろうという考えを支持した。

「誰もが最高の医療、食料、自宅交通手段、その他すべてを享受できるようになる。持続可能な豊かさだ」と同氏は熱意を込めて語った。

もちろん怖い面もあります。このテクノロジーがテロリストによってハイジャックされ、巨大な兵器として使用される可能性はありますか、あるいは人類が世界の問題の原因であると自ら判断し、私たちを滅ぼすことになったらどうなるでしょうか?

「もしそれがあなたよりも賢いのであれば、我々はそれを封じ込めなければなりません」と、ワールド・ワイド・ウェブの創始者ティム・バーナーズ・リー氏は今月初めにBBCに語って警告した。

「それをオフにできなければなりません。」

政府はいくつかの保護措置を講じています。多くの大手AI企業が拠点を置く米国では、バイデン大統領が2023年に一部の企業に安全性試験の結果を連邦政府と共有することを義務付ける大統領令を可決したが、その後トランプ大統領はイノベーションへの「障壁」であるとして命令の一部を取り消した。

一方、英国では、高度な AI がもたらすリスクをより深く理解するために、政府出資の研究機関である AI 安全性研究所が 2 年前に設立されました。

そして、独自の終末保険プランを持つ超富裕層もいます。

リード・ホフマン氏は以前、「『ニュージーランドに家を買う』と言うのは、ウインク、ウインク、それ以上は言わない、のようなものだ」と語った。おそらくバンカーでも同じことが言えるでしょう。

しかし、そこには明らかに人間の欠陥があります。

私はかつて、自分の「バンカー」を所有するある億万長者の元ボディガードに会ったことがありますが、もしこれが本当に起こった場合、彼のセキュリティチームの最優先事項は、そのボスを排除して自分たち自身がバンカーに入るだろうと私に言いました。そして彼は冗談を言っているようには見えなかった。

ニール・ローレンスは、ケンブリッジ大学の機械学習教授です。彼にとって、この議論自体がナンセンスだ。

「汎用人工知能という概念は、『汎用人工知能車両』という概念と同じくらいばかげている」と彼は主張する。

「適切な乗り物は状況によって異なります。私はケニアに飛ぶのにエアバス A350 を使いました。大学に行くのに毎日車を使い、カフェテリアまで歩いて行きます…これらすべてを実行できる乗り物はありません。」

彼にとって、AGI について話すのは気を紛らわせるものです。

「私たちが持っている技術は、 [already] この構築により、一般の人々が初めてマシンと直接対話し、意図したとおりにマシンに動作させることが可能になります。それはまったく並外れたことであり、完全に変革的です。

「大きな懸念は、私たちがAGIに関する大手テクノロジー企業の話に引きつけられすぎて、人々にとって物事をより良くするために必要な方法を見失っていることです。」

現在の AI ツールは山ほどのデータでトレーニングされており、スキャンでの腫瘍の兆候や、特定の順序で次に来る可能性が最も高い単語など、パターンを検出することに優れています。しかし、どんなに説得力のある答えが現れても、彼らは「感じていない」のです。

「大規模言語モデル（AI チャットボットの基盤）を、まるで記憶があって学習しているかのように動作させる『ずるい』方法がいくつかありますが、それらは満足のいくものではなく、人間よりもかなり劣っています」とホジャット氏は言います。

カリフォルニアに拠点を置く IV.AI の CEO、ビンス・リンチ氏も、AGI に関する大げさな宣言には慎重です。

「これは素晴らしいマーケティングです。もしあなたがこれまで存在した中で最も賢いものを作っている会社なら、人々はあなたにお金を出したいと思うでしょう。」と彼は言います。

彼はさらに、「それは 2 年先の話ではありません。非常に多くの計算、人間の創造性、そして多くの試行錯誤が必要です。」と付け加えました。

AGIが実現すると信じているかとの質問には、長い沈黙があった。

「本当に分かりません。」

ある意味では、AI はすでに人間の脳を上回っています。生成 AI ツールは、ある瞬間には中世の歴史の専門家になり、次の瞬間には複雑な数式を解くことができます。

一部のハイテク企業は、自社の製品がなぜそのように反応するのか必ずしもわからないと述べています。メタ社は、自社のAIシステムが自ら改善する兆候が見られると述べている。

しかし、最終的には、機械がどれほどインテリジェントになったとしても、生物学的には依然として人間の脳が勝利します。約 860 億個のニューロンと 600 兆個のシナプスがあり、人工同等のものよりもはるかに多くなっています。

脳は相互作用の間に一時停止する必要もなく、常に新しい情報に適応しています。

「系外惑星で生命が発見されたと人間に伝えると、彼らはすぐにそれを知り、今後の世界観に影響を与えるでしょう。LLM の場合 [Large Language Model]、あなたがこれを事実として彼らに繰り返し続ける限り、彼らはそれを知るだけです」とホジャット氏は言います。

「LLM にはメタ認知もありません。つまり、彼らは自分が何を知っているのかよくわかっていないのです。人間はメタ認知を持っているようです」 内省的な能力、 それは意識と呼ばれることもあり、それによって彼らは自分が知っていることを知ることができます。」

これは人間の知性の基本的な部分であり、研究室ではまだ再現されていません。

トップ写真のクレジット: The Washington Post via Getty Images/Getty Images MASTER。リード画像はマーク・ザッカーバーグと未知の場所にあるバンカーのストック画像を示しています

BBC の詳細 は、仮定に疑問を投げかける新鮮な視点と、その日の最大の問題に関する詳細なレポートを備えた、最高の分析のための Web サイトとアプリの本拠地です。また、BBC Sounds や iPlayer からの示唆に富むコンテンツも紹介します。 BBC InDepth の記事が公開されたときに通知を受け取る通知にサインアップできます – 調べてください ここにサインアップする方法。