Jason PruetとのQ＆A |ロスアラモス国立研究所

この記事の印刷に優しいバージョンをダウンロードしてください。

Jason Pruetは、研究室全体のチームと協力して、人工知能が科学と安全の景観を再構築する未来に備えるのを支援しています。 5年前、彼はAIをもう1つの貴重なツールと見なしていましたが、最近の大規模なAIモデルの力の進歩のために、PruetはAIが広く破壊的であると考えています。彼はもはやこのテクノロジーを単なるツールと見なしていませんが、科学者が問題に取り組み、発見をする方法の根本的な変化として見ています。現在の世界的な人種は、その害を軽減しながら、テクノロジーの可能性を活用する方法に関するものです。

1663： 今年、研究室は歴史のどの時点よりもAI関連の仕事に多くを投資しました。あなたは、公共財のための科学の第二次世界大戦後のパラダイムに戻るという点で、AIへの政府の投資について話しました。それを拡張できますか？

JP： 第二次世界大戦の前に、政府は今日の考え方で科学に本当に関与していませんでした。しかし、第二次世界大戦の後、マンハッタンプロジェクトの背後にある重要な人物であるヴァンネヴァーブッシュは、科学と工学の恒久的な政府支援の基礎を築きました。私はここで言い換えていますが、彼はこの美しい引用を持っていました。彼は、「誰もが探検のフロンティアを開いたままにすることが政府の政策であるのと同じように、知識のフロンティアが誰にとっても開かれているのは政府の政策です」と言いました。

そのユニークなアメリカのアイデアは、アメリカの世紀を築くのに役立ちました。戦後、ロスアラモスのリーダーシップは、安全と科学の未来がエネルギー粒子と核反応を研究する能力に依存していることに気付きました。問題は、大学がこれらの巨大な機械を構築する手段がなかったため、大学ができなかったということでした。そして、研究室は大学の支援なしではそれを行うことができなかったので、彼らはスタンフォード線形アクセラレータセンターのように、原子力委員会がこれらの巨大な施設に支払う契約を結びました。そのようなインフラストラクチャがなければ、国には科学的な超大国であるという信頼できる方法はありませんでした。

さまざまな理由で、それ以来、政府の大規模な科学に対する政府の支援は侵食されてきました。現在、AIは科学的進歩の次の偉大な基盤のように感じ始めています。大企業は大規模な機械に数十億ドルを費やしていますが、AIのフロンティアで働くための賛同コストは非常に高いため、最新のAIモデルを実行するために必要なエクサスペレクラスの機械はありません。私たちは今、政府を意味する私たちが、インフラストラクチャに投資してAIを公共財のために研究することでその協定を活性化できる場所にいます。

1663： それは魅力的な類似点です。最先端のAI研究に必要な大規模なインフラストラクチャについて言及しました。それは大学がロスアラモスと協力できるものですか？

JP： その通り。 2500 GPUを備えたVenadoのようなラボのマシンで私たちがしていることの一部は、その規模のコンピューティングに大学をアクセスできるようにしています。スケールは完全に異なります。典型的な大学には50または100 GPUがあるかもしれません。
たとえば、現在、カリフォルニア大学、ミシガン大学、および研究者がこのインフラを活用できる他の多くの大学とのパートナーシップがあります。それは私たちが拡大したいものです。エネルギー省が国家安全保障とエネルギーの支配に焦点を当てた規模の包括的なAIプログラムを持つ場合、大学の協力を持つことが重要です。

1663： この急速な進歩を可能にするために、ここ数年で何が変わったのですか？それはただのより大きなモデルですか、それとも他に何かがありますか？

JP： 最大の変化の1つは、Googleの研究者の小さなグループによって書かれた「注意はあなたが必要とするすべて」と呼ばれる2017年の論文から来ました。このペーパーでは、Transformer Architectureを紹介しました。これにより、AIモデルの拡張方法に大きな飛躍が可能になりました。モデルが大きくなればなるほど、パフォーマンスが向上することがわかります。また、変圧器は、単一のフレームワーク内で、テキスト、画像、方程式などのさまざまな種類の情報を混合することもできます。

1663： トランスモデルの開発以来、AIに対するあなたの視点は変化しましたか？

JP： 絶対に。私たちが現在見ている規模で、AIへの政府投資を提唱しなかった時代がありました。しかし、証拠の重みは圧倒的になりました。 「フロンティアモデル」の大規模なモデルは、仮説生成、数学、生物学的設計、複雑な多目的シミュレーションなどの多様な分野で最近の進歩を伴うこのような並外れた機能を示しています。変革的影響の可能性は無視するにはあまりにも重要です。

1663： AI開発の軌跡のどこにいるか説明できますか？

JP： 私たちはまだこのテクノロジーの完全な可能性を本当に理解していないので、それは難しい質問です。 AIコミュニティは、さまざまなベンチマークを使用して機能をテストします。それぞれが数学、口頭の推論、象徴的な推論、心の理論、司法試験のためのものです。過去2年間、AIが人間よりも優れていないベンチマークが多かれ少なかれ不足しています。例外は、特定のクラスの抽象的な推論ですが、そのベンチマークも来年にも落ちない場合は驚かれることでしょう。

この技術の基本的な問題は、私たちがそれを完全に理解していないことです。 「ああ、私が10倍以上の計算を行うと、これが起こる」と言う予測能力はありません。私の同僚のジャスト・ムーアは、AIモデルを科学的に理解する能力を最初に開発する国にとって大きな戦略的利点があると強調しました。それがなければ、私たちが上部に近いか下にいるかについて、コミュニティ内に深い議論があります。明らかなことは、進歩の速度が誰もが予測できたよりも速く、すぐに遅くなるという兆候はないということです。

1663： この瞬間をAIをめぐる国際軍拡競争と考えるのは公平ですか？

JP： 歴史的な類推から始めたいです。産業革命では、焦点は人間や動物から肉体労働をしていることから、機械的労働のために機械の建設に移りました。 AI革命では、私たちは人間によって行われている認知労働から、機械によって行われる認知労働に行きます。最新のAIツールでプレイしている場合は、非常に優れたコーダー、非常に優れたリーガルアナリスト、非常に優れた執筆の最初の起草者、非常に優れた画像ジェネレーターです。彼らは良くなるだけです。次世代の認知労働の基礎となる機械のレンズを通して見られますが、これらのツールの戦略的意義が何であるかは明らかです。

したがって、はい、AIが国家が戦略的で潜在的に決定的な利点を獲得する手段になる可能性が高くなりつつあります。中国のリーダーシップは、AIを、電気や内燃エンジンのように、一般的な技術と見なしています。 DeepmindのAlphagoが2017年5月に中国のグランドマスターKe Jieを破った後、3〜6か月以内に、中国政府は国家AI戦略を開始しました。それから中国が見たのは、あなたの目標が微妙な手段を通じて戦略的支配である場合、人類史上初めて、それを行うことができる技術があるということでした。

AIがすでにパワー構造をどのように変化させているかの別の例を挙げましょう。私には友人のチャック・ミールケがいます。チャック・ミールケはここで研究室で働いており、田舎の中国の大学の研究者によって書かれた論文をよくレビューしています。何年もの間、彼はこれらの論文を手に入れていました、そして、彼らは乗り越えるのがとても難しく、理解するのはとても難しいです。その後、突然、新しいAIテクノロジーが登場し、彼が受け取った論文は美しく書かれ、議論されました。何十年もの間、英語は科学文献の支配的な言語であるため、米国は構造的な利点を持っています。 AIは一晩侵食しました。

とはいえ、私は伝統的な軍拡競争のレンズを通してこれを見ることをますます不快にしています。多くの思慮深く尊敬される人々は、AIが人類に大きなリスクをもたらすことを強調しています。中国のリーダーシップが同じ見解に至り、内部的には、彼らが無謀に利益を求めるのではなく、潜在的なリスクのバランスをより良くしようとしているという信頼できる報告があります。これらのリスクを管理するための唯一の道は、新しい種類の国際的なコラボレーションと契約に関係する可能性があります。

1663： ラボの科学者にこのすべてから奪うようにしたいメッセージは何ですか？

JP： 私の感覚は、私たちの研究者のほとんどがこれらの技術の重要性を深く理解しているということです。科学的研究、製造、運用、さらには法的および公務員であっても、AIは私たちが前進する方法の背後にある原動力になるでしょう。これは単なるツールではありません。これは、問題に取り組み、発見をする方法の根本的な変化です。私たちは今、テクノロジーの可能性が実証されている時点で、問題は本当に養子縁組のペースに関するものであるという程度まで実証されています。かなり良い段階的な推論が可能な新しいモデルのOpenaiによる最近のリリースは、この見解を強化するだけです。

1663： それはどのように感じますか？

JP： 私たちが後ろにいるように。一般的な目的の推論に機械を使用する能力は、大きな結果をもたらす独創的な進歩を表しています。これにより、科学技術の進歩が加速し、知識のフロンティアが拡大します。また、私たちの社会の国家安全保障のパラダイム、教育システム、エネルギー、その他の基本的な側面を混乱させる可能性があります。他の強力な汎用テクノロジーと同様に、この移行を行うと、適切なエコシステムの作成に依存します。そのためには、業界や大学との新しい種類のパートナーシップが必要になります。

1663： 私たちは、すべての国が独自のAI能力を開発する未来に向かっていると思いますか？

JP： それを買う余裕のある国のために、はい。英国、中国、フランスなどの国々は、独自の主権AI能力を開発する意図についてすでに明確になっています。アラブ首長国連邦は、この技術の重要性を認識したため、ソブリンウェルスファンドから数十億ドルを投資しました。それは、他の誰かにあなたのオイルをコントロールさせることはできません。他の誰かにあなたの食べ物をコントロールさせることはできません。

先ほど話し合っていたヴァンネヴァーブッシュのことに戻るために、「なぜ私たちはこれらの巨大なエンジンを進歩と科学のために構築させてはいけませんか？問題は、私たちが注意しなければ、私たちが行った国とは非常に異なる国に私たちを導くことができるということです。私たちは確かに業界と提携する必要があります。彼らはかなり先にあり、そのような巨大な投資を行っているため、それが唯一の可能な道です。しかし同時に、ヴァンネヴァルの協定を維持する方法を理解する必要があります。

人々も尋ねます

• AIのリスクは何ですか？ 終末のシナリオは、AIが人間よりも強力になり、人類に実存的なリスクをもたらすということですが、より近い条件には、職務交換、プライバシー違反、セキュリティに対する脅威などがあります。これらのリスクのすべてが、ロスアラモス国立研究所の決定に、害を防ぎ、世界を改善するための大きな可能性を実現するための技術の理解と形成に多大な投資に投資するという決定に至りました。
• AIは私の仕事にどのように役立ちますか？ プロセスの自動化から、メモの起草やサプライチェーンの最適化まで、さまざまな現代の仕事の多くの側面を加速するのに役立ちます。 Los Alamos National Laboratoryの1人の専門家が述べているように、「AIは単なるツールではありません。問題へのアプローチ方法の根本的な変化です。」多くの労働者にとって今後のタスクは、迅速、賢く、安全に採用することです。