DeepMind AI 研究所の共同創設者であるデミス・ハサビスは、一見すると、よく知られたタイプのように見えます。宣教師的な起業家であり、特定の瞬間に適任者として現れる型破りな科学者です。この場合、その瞬間はハードウェア、ソフトウェア、データが連携して超知能を可能にした瞬間でした。しかし、ハサビス氏は決して型にはまった人物ではない。彼は、世界を破壊する可能性があると考えるテクノロジーの開発に人生を捧げてきました。
ハサビス氏は、自分の探求について私に話すことに同意してくれました。なぜなら、社会は発明者を信頼するためには、何が発明を動かしているのかを理解しないと信じているからです。ほぼ3年間、本を執筆していた間、 無限のマシン、私たちは北ロンドンの彼の家の近くのパブで定期的に会っていました。私たちはみすぼらしい木の階段を上がって 2 階の部屋に行き、かつては壮麗だったシャンデリアの下でカプチーノを飲みながら 2 時間話し合った。知性と生命、コンピューターサイエンスと神経科学、哲学と映画についてのきらびやかなリフを持つハサビス。すべての会話を通して、モチベーションの問題がロス アラモス上空のキノコ雲のイメージのように漂っていました。
ハサビスは、AI の破滅シナリオの全領域に精通しています。彼は、AI の安全性に関する講義で、DeepMind 共同創設者の 1 人であるシェーン レッグ氏に会いました。彼はシンギュラリティサミットで、未来学者たちが人間を出し抜く機械のビジョンを共有し、最初の経済的支援者であるピーター・ティール氏に穴を開けた。かつて、ハサビスは、宇宙植民地化は人類の生存を保証しないと言って、気難しいロケット製造者イーロン・マスクに感銘を与えた。超知能システムはロケットも製造できる可能性がある、とハサビス氏は観察した。システムが悪性であることが判明した場合、火星の植民地は保護を提供しません。
2014 年に Google が DeepMind を買収したとき、ハサビスは自分の使命のリスクをいかに真剣に受け止めているかを示しました。同氏は売却の条件としてグーグルが自社の技術を管理することに合意し、営利企業がAIの展開について最終決定権を持つことを拒否した。同氏は、独立した賢人からなる外部委員会がこのプロセスを監督するよう主張し、AIの軍事利用は厳しく禁止されると述べた。ハサビス氏は 10 代の頃から、強力な AI を構築することを決意していました。彼はその安全を確保した場合にのみ、自分の人生をかけた仕事を正当化することができた。
Google の交渉担当者は、このような要求に直面したことはありませんでした。ロンドンの小規模新興企業は、グーグルが完全には管理できない資産に対して数億ドルを支払うよう提案していた。しかし、ハサビスは世界最高のAI頭脳トラストを結集していた。 Google は彼の条件を受け入れました。
この記事は、セバスチャン・マラビーの新しい本から編集されたものです。 無限のマシン: デミス・ハサビス、ディープマインド、そして超知性の探求。
ハサビスはまた、超知能が発明されるべき物理的環境についてのアイデアを持っていました。彼は、敵から隠され、世の気を散らすことから離れた秘密の地下壕に一流の研究者とともに逃亡することを想像した。学術界の哲学者や科学者がこの取り組みに参加し、世界中から集まったドリームチームが全人類に代わって強力なAIを助産することになる。このビジョンには、いわゆるシングルトン シナリオが暗黙的に含まれていました。おそらくハサビスが指揮を執る単一の科学部隊が、安全な超知能を確保するだろう。
ある日、私は Google への売却から少し後に DeepMind に入社した研究者に会いました。研究者の最終面接中、ハサビス氏は、もし契約するなら、バンカーに消えてしまうクライマックスの終盤に備える必要があると警告していた。
「バンカーは単なる比喩だったのか？」私はつつきました。
いいえ、彼は言いました。 「どの段階であっても、私がディープマインドにいたとき、もしデミスが私にモロッコの秘密の場所行きの飛行機に乗るように言ってくれたら、私は公正な通知を受けたと感じただろう。」
「なぜモロッコなのか？」私は尋ねた。
「ああ、砂漠だ。ちょうどマンハッタン計画について考えていたところだ。あれは砂漠だった。」
2015年、AI監視委員会を設置するというGoogleの約束を具体化しようとして、ディープマインドは哲学者と技術者の秘密集会を企画した。潜在的なライバルを囲い込み、彼のシングルトンビジョンを推進するために、ハサビス氏はイーロン・マスク氏に、カリフォルニア州ホーソーンにあるマスク氏の本社で会議を開催する栄誉を与えた。しかし、その策略は裏目に出た。この集会は、ハサビスの安全ビジョンが崩れ始めた瞬間を示した。
マスク氏はハサビス氏と共同創設者のプレゼンテーションを聞いた。それから彼は彼らが望んでいたのとは逆のことをしました。マスク氏はサム・アルトマンとチームを組んで、明らかに反グーグル、反ディープマインドのベンチャーであるOpenAIを設立した。後に、シングルトンの幻視を信じる人々は、この瞬間を「堕落」と表現しました。蛇が庭に悪を持ち込んだのです。しかし、人間の性質を考えれば、堕落は避けられませんでした。プロメシアン テクノロジーの可能性に直面したとき、人々は団結して単一の取り組みを行うことはありません。彼らは議論好きで、嫉妬深く、部族的です。
この時点で、ハサビス氏は考え直すために立ち止まったかもしれない。シングルトンのシナリオが単純だったとしたら、AI 開発者はどのようにして崖の上での競争を避けることができるでしょうか?その上、マスク氏がディープマインドのアイデアを真似した以上、Googleは当然のことながら、2回目の監視会議を開催して、これ以上のライバルをテント内に入れることを拒否した。しかし、ハサビスはその努力を一時停止するのではなく、オーバードライブに突入した。 2016 年、DeepMind は古代のボードゲームである囲碁で人間のトッププレイヤーを破ったシステムを開発しました。機械の優位性を実現するためのタイムラインが短縮されました。
この進歩のバランスをとるために、ハサビスは AI を人類に奉仕させる新しいアイデアを思いつきました。彼は共同創設者のムスタファ・スレイマンとともに、新たなガバナンス保護策についてGoogleと交渉を開始した。この秘密の「プロジェクト マリオ」を推進するために、彼は一流の法務チームを雇い、LinkedIn の創設者であるリード ホフマンから 10 億ドルの約束を取り付け、テクノロジーの管理を拒否された場合は Google から DeepMind を分離することを検討しました。同時に、スレイマン氏は英国国民保健サービスによる急性腎臓病の管理を支援するディープマインドの取り組みを主導した。もし AI が独立して管理でき、一般の英国人の健康状態を改善できれば、ハサビス氏は自分の探求が確かに高潔だったと満足するかもしれない。
どちらの取り組みも頓挫した。 Googleとのガバナンスをめぐる争いは3年にわたって続き、営利企業に非営利の監視を移植することの難しさを浮き彫りにした。 NHSを支援するこのプロジェクトは、米国のテクノロジー大手の子会社が患者データを入手する可能性があることに激怒したプライバシー運動家らの反発に遭った。 2019年までに、ハサビスとディープマインドは両戦線で後退した。スレイマンは会社から解雇された。
ハサビスの高潔な AI への次の試みには科学が関係していました。 DeepMind が NHS を直接支援できない場合、創薬の加速を目指す可能性があります。 2020年、ディープマインドは微視的なタンパク質の形状をマッピングする驚くべきシステムを発表し、ハサビス氏とその同僚がノーベル化学賞を共同受賞する快挙となった。この賞は、AI の大きな利点を示しました。しかし、それは同様に現実的な危険性を否定するものではありませんでした。
2022 年、偶然にも、私が本のプロジェクトでハサビスに話を聞いてほしいと売り込んだわずか 1 週間後、OpenAI は、技術史上最もバイラルな製品である会話のコンパニオンである ChatGPT をリリースしました。これはハサビスに新たな道徳的試練を課した。理論的には、彼はチャットボット事業を新興のライバルに任せて、有益な科学という王道を歩み続けることもできたはずだ。しかし、ハサビス氏は私が知っている中で最も競争心が激しく、チャットボット市場を譲歩することはいずれにせよグーグルにとって論外だった。私は2023年の初めにハサビスを訪れたことを覚えている。「今は戦時中だ」と彼は言った。
その結果は、ハサビスのジェミニシステムがChatGPTや他の少数のライバルと戦う恐ろしい資本主義の争いとなった。数千億ドルが競争に拍車をかけており、一部の候補者は自社のモデルを安全なものにしようと熱心に努力しているが、国の規制も企業統治構造も他の候補者が最下位まで競争することを妨げていない。 Google は以前の姿勢を変えて、現在ではアメリカの国防組織に AI を導入することに熱心です。これは、ハサビスが望んでいた超知性の最終段階とは正反対です。
ハサビスは挫折を認めているが、それでも前に向かって走り続けている。統治メカニズムに対する彼の信念は今や打ち砕かれ、逆説的に言えば、彼は自分自身のキャリアの向上に救いを見るようになった。彼は、自分の個人的な目標が人類の利益のために AI を形作ることであることを知っています。したがって、彼の新しい安全に関する課題には、個人的な影響力を確保することが含まれます。
「安全性は統治構造に関するものではありません」とハサビス氏は今言う。 「つまり、たとえガバナンス委員会を設置していたとしても、いざという時に適切な対応をすることはできないでしょう。」むしろ、彼の目標は「安全上の問題が生じたときに、解決策の決定に貢献できるようテーブルの席」を獲得することだ。
「物事は白黒つけられるものではありません。特に、結果が未知のテクノロジーを扱う場合にはそうです」と彼は私に言いました。 「だから、適応力を持たなければなりません。理想主義者から現実主義者に移行しなければなりませんが、できれば自分の価値観を持ち続けてください。」
私はこの判決についてじっくり考えた。一方で、ハサビスは本来の価値観を侵害した。一方で、若い頃のビジョンを超えて進む必要性については正しい。複数の国の複数の研究所が強力な AI の構築に参加すると、競争しないわけにはいかないことがわかりました。ことわざのテーブルに一人の善意の人物がいるということは、不安に満ちた世界に安心感をもたらす薄っぺらな足場となる。しかし、各国政府が規制を課すまでは、善意ある個人が最大の慰めとなるかもしれない。
無限のマシン – デミス・ハサビス、ディープマインド、そして超知性の探求
セバスチャン・マラビー
このページのリンクを使用して書籍を購入すると、手数料が発生します。アトランティックを応援していただきありがとうございます。
#AIを安全に保てると考えた男