私たちはAIの大惨事に向かって突き進んでいるのだろうか？ AIは存続を脅かす脅威なのか、それとも画期的な機会なのか?これらは、サンダンスでの新しいドキュメンタリーで最も念頭に置かれた質問であり、このドキュメンタリーでは、OpenAI CEOのサム・アルトマンを含む一流のAI専門家、評論家、起業家が登場し、破滅からユートピアまでの近～中期の未来についての見解を取り上げている。
『The AI Doc: Or How I Became an Apocaloptimist』は、ダニエル・ローハーとチャーリー・タイレルが監督し、ダニエル・クワン（『エヴリシング・エブリウェア・オール・アット・ワンス』でオスカー受賞コンビ、ザ・ダニエルズの片割れ）がプロデュースした作品で、ローハー自身の不安を通してAIという物議を醸すテーマを掘り下げている。ドキュメンタリー『ナワリヌイ』で2023年にオスカーを受賞したこのカナダの映画製作者は、チャットボットChatGPTを開発したOpenAIがリリースしたツールを試していたときに、初めてこのテーマに興味を持った。公共ツールの洗練さ、つまり数秒で段落全体を作成したり、イラストを作成したりできる機能は、彼を興奮させ、同時に不安にさせました。 AI はすでに映画製作業界を根本的に形成しており、AI の可能性と危険性についての宣伝があちこちで行われていましたが、テクノロジー業界以外の人々が AI を評価する方法はほとんどありませんでした。アーティストとして、彼はどうやってすべてを理解すればよいのだろうかと考えました。
ロアーさんの不安は、彼と彼の妻で同じく映画製作者のキャロライン・リンディが第一子を妊娠していることを知ったとき、さらに大きくなった。映画の中で彼は、親になることへの興奮と、わずか数年で独自の実験から公益へと変わってしまった AI という未知の変数に対する恐怖が衝突したとき、「全世界が何も考えずに何かに突進しているように感じました」と語った。
AI Doc は、Roher の最も差し迫った質問から生まれました。子供をこの世界に連れてきても安全ですか?クワン氏と並んで、ロアー氏は一連の専門家を招集して、テクノロジーの仕組みを説明し、不明瞭で疎外的な用語を明確にし、答えを探しました。 (たとえば、「AI とは何ですか?」という質問に明確な答えを持っている人がいないように見えることは、安心すると同時に少し不安にもなります)。 Yoshua Bengio、Ilya Sutskever、DeepMind 共同創設者の Shane Legg を含む主要な機械学習研究者は、個別の座ってのインタビューで、AI モデルには人間には理解できない、そして今後も決して理解できない側面があることに同意しています。ある機械学習の専門家が言うように、標準的な AI モデルは「誰もが数生涯で読み取れるよりも多くのデータ」に基づいてトレーニングされます。そして、機械学習のペースは、前例や映画のペースを上回っています。 「この映画にどんな例を入れても、映画が公開される頃にはまったくぎこちないものに見えるでしょう」と、Center for Humane Technology の共同創設者であり、黙示録的な 2020 年の Netflix ドキュメンタリー『ソーシャル ジレンマ』で著名な発言者であるトリスタン ハリスはローハーに語ります。
サンダンス会場でのチャーリー・タイレルとダニエル・ローハー 写真: Arturo Holmes/Getty Images
この映画ではまず、ハリス氏、同氏の人道テクノロジーセンターの共同創設者アザ・ラスキン氏、AIリスクアドバイザーのアジェヤ・コトラ氏、AI調整のパイオニアであるイーライ・ユドコウスキー氏を含む、一連の運命論者、つまりAI、特に人間の能力を超えるAIのまだ理論上の形態である汎用人工知能（AGI）に関係する人々の話を聞く。このような数字は、人間がほとんど、あるいはまったく手段を講じることなく、超インテリジェントな AI モデルの制御を簡単に失う可能性があることを警告しています。ユドコウスキーの2025年の本は、「誰かがそれを建てたら誰もが死ぬ」という率直なタイトルになっている。
AI企業は、AGIに到達した場合の結果に対して準備ができていないと言われており、AGIは「おそらくこの10年以内に超人的になる可能性がある」とAI安全センター所長のダン・ヘンドリックス氏は言う。人間が地球上で最も知的な存在でなくなった場合、AGIはその種を無関係なものとみなす可能性がある、と彼らは警告している。 EleutherAI の共同創設者である Connor Leahy 氏は、超インテリジェント AGI と人間の潜在的な将来の関係を、人間とアリの関係に例えて、「私たちはアリが嫌いではありません。しかし、アリ塚の上に高速道路を建設したい場合は、アリにとっては最悪です」と述べました。
破滅主義者陣営の何人かは、子供がいない人が多いが、親になることについてのロアー氏の質問に落胆するような反応を示している。 「AI リスクに取り組んでいる人々が、自分の子供が高校に進学することを期待していないことを私は知っています」とハリス氏はセリフで言い、パークシティでの内覧会の聴衆は息を呑んだ。
その一方で、人間の寿命を延ばそうとするXプライズ財団の創設者であるピーター・ディアマンディスのような楽観的な人物もおり、彼は「今日生まれた子供たちは、まもなく輝かしい変革期に入ろうとしている」と主張している。ギヨーム・ヴェルドン、シリコンバレーの「効果的加速主義」運動のリーダー。ピーター・リー氏、マイクロソフト・リサーチ社長。 OpenAIのライバルであるAnthropic社の共同創設者兼社長であるダニエラ・アモデイ氏。いわゆる「加速主義者」は、AIが人類を悩ませている一見手に負えない無数の問題、つまり癌、増え続ける人口に対する食糧と水の不足、再生可能エネルギーの不足、そしておそらく最も差し迫った気候緊急事態に対する潜在的な治療法であると考えている。 AIがなければ、将来無数の命が干ばつ、飢餓、病気、自然災害によって失われるだろうと彼らは主張する。
しかし、AIの開発はコンピューティング能力に依存しており、それには膨大なエネルギーが必要です。ジャーナリストでサム・アルトマンの『OpenAI』の『AIの帝国:夢と悪夢』の著者であるカレン・ハオ氏や、Win-Winポッドキャスト司会者のリブ・ボリー氏など、主にテクノロジー業界以外のインタビュー対象者、評論家、観察者からなる最後のグループは、AIを具体的な物理的世界、たとえばアメリカ西部で水を吸い上げ、住民に法外な電気代と排水された貯水池を残しているデータセンターを結びつけている。計算言語学のエミリー・M・ベンダー教授によると、AIをめぐる現在の言説は、AIがすでに影響を与えている人々を排除し、人間性を奪っており、今後も混乱は続くだろうという。
ダニエル・クワン、ジョナサン・ワン、ダニエル・ローアー、シェーン・ボリス、チャーリー・タイレル、テッド・トレンパー、サンダンスにて 写真: Mat Hayward/Getty Images for IMDb
ロハーは最終的に、現在 AI 軍拡競争をリードしている 5 人の最も強力な人物 (全員が男性) にたどり着きます。 xAI CEOのイーロン・マスク氏。ダリオ・アモデイ、Anthropic CEO。 DeepMindのデミス・ハサビス氏とMetaのマーク・ザッカーバーグ氏。アルトマン氏、アモデイ氏、ハサビス氏は、多かれ少なかれそれぞれの会社の立場を擁護する面接に臨む。映画によると、ザッカーバーグは参加を拒否したという。マスク氏も同意したが、その後忙しくなりすぎた。
インタビュー当時、第一子を妊娠中だったアルトマン氏は、「AIのある世界で子供が成長することを恐れてはいない」と主張する。彼と夫のオリバー・ムルヘリンは、2025年2月に代理母を介して息子を迎えたが、これは後にアルトマンが発表した出来事である。 言った 彼の脳は「神経化学的にハッキング」され、彼の人生の周囲の人々は、彼が「人類全体」に関しては、OpenAI と ChatGPT に対して「より良い決断を下す」だろうと考えるようになりました。 40歳のCEOは続けて、自分とローハーの子供はどちらも「AIより賢くなることは決してないだろう」と述べ、「少し不安にはなるが、それが現実だ」と語った。
ある時、ロハーはアルトマンに、AI に関してはすべて大丈夫だと安心させるのは本当に不可能なのかと尋ねます。アルトマン氏は「それは不可能だ」と断言するが、OpenAIがAI軍拡競争でリードしているため、安全性テストにより多くの時間を費やすことができるとも述べている。
AI Doc は最終的に、運命論と楽観主義の間のどこかに行き着きます。彼らが言うところの終末論であり、「約束と危険の間の道」を模索しています。多くの映画の主題によれば、その道筋には、核兵器の開発を緩和するために導入された世紀半ばの枠組みや協定に似た、パラダイムを変える重大かつ持続的な国際協調、AI企業の企業透明性の向上、AI開発者を取り締まる独立した規制機関、ChatGPTなどの企業製品に対する法的責任、メディアに対するgenAI使用の強制開示、急速に変化する技術にルールを適応させ続ける意欲などが含まれるはずだ。
米国政府や企業、ましてや世界がそれを実行できるかどうかは依然として未解決の問題であり、最初のステップについてはさまざまな意見がある。しかし、多くの被験者全員が同意していることが 1 つあるとすれば、それは、AI 以前の時代には戻れないということです。 Anthropic の共同創設者兼 CEO の Amodei 氏は、「この列車は止まらない」と述べています。
1769569544
#この電車は止まらない衝撃的なサンダンス映画はAIの約束と危険を示す #サンダンス
2026-01-28 02:42:00