ブレイズ・アグエラ: 「AI は、知能を生み出すには『妖精の粉』が必要ではなく、より大きなモデルが必要であることを示しています」 |テクノロジー

ブレイズ・アグエラ・イ・アルカスさん（50歳、米国ロードアイランド州プロビデンス）2022年6月発行 の記事 エコノミスト その中で同氏は、グーグルが開発中のチャットボット「LaMDA」のせいで「足元の地面が動いている」と初めて感じたと警告した。あなたの仲間、 ブレイク・ルモイン 彼は魂を持った機械と会話したとさえ主張した。当時Google Researchの研究責任者だったアグエラ氏は、 彼は機密文書を漏洩したために解雇されたしかし エル・パスとして認められる LaMDAが彼に多くのことを考え直させていることを。

5か月後、OpenAIがChatGPTを公然と立ち上げたとき、世界の他の国々も同様のめまいを感じたかもしれない。 Google では何年にもわたってこのことに取り組んできましたが、彼らが言うように、次のことを信じていました。 この製品はまだ一般に発売する準備ができていませんでした。。競合他社も同じ考えではありませんでした。

それ以来、カタルーニャ人の父親とアメリカ人の母親を持つこの物理学者兼コンピューターエンジニアは、インテリジェンスの概念について考えてきました。それを定義するものは何ですか?機械はインテリジェントになることができるでしょうか?彼はそう信じており、600ページにわたる著書の中でそれを展開しています。 インテリジェンスとは何ですか? (知性とは何ですか?スペイン語への翻訳は予定されていません）。

アグエラは、大手テクノロジー企業が人工知能 (AI) の分野で世界最高の科学者を給与計算に入れていることを裏付ける一例です。彼は Google の副社長であり、AI 関連の基礎研究に重点を置いた Paradigms of Intelligence (Pi) グループを率いています。この分野では、彼は何よりも、 連合学習接続された複数のデバイスからのデータを使用して AI をトレーニングできる機械学習技術。アグエラはシカゴからビデオ会議でEL PAÍSに出席。

聞く。 彼は本の中で、偉大な言語モデルが登場したとき、それが知性とは何かについての私たちの理解をめぐる激しい議論を引き起こすだろうと考えたと述べています。そして彼は、拒否と受容という 2 つの主なタイプの反応を想像しました。何に遭遇しましたか？

答え。 私は両方を見ました。私が思うに、最大の陣営は否定派、つまり AI は実際には知的ではなく、AI はそう見せているだけだという派です。その発言には問題があります。それは、数学の学生が、ただのふりをしているだけだと言ってテストに合格するのと同じです。「数学が分からなければ合格することはできません」。専門家の方がより否定的であることは興味深いと思います。これらのモデルがどのように機能するかを本当に理解すると、それをインテリジェンスとみなすのは難しいかもしれません。それが私の本の内容です。知性は、何をするかによって定義されるのではなく、最も賢いことによって定義されます。かなり高度な問題を半分の時間でも解くことができれば、何か興味深いことが起こっていることになります。時々愚かなことをするからといって、能力がないわけではありません。

P. 知性とは何ですか?

R. 広く受け入れられている定義はないと思います。私は、知性とは、複雑な世界を理解し、行動する能力であると信じています。つまり、あなた自身と、他の知的エンティティを含む環境をモデル化できなければなりません。そして、そのモデルは、自分にとって有益な方法で将来に影響を与えることができるほど優れたものでなければなりません。さまざまなタイプの環境、さまざまな状況、その他さまざまなタイプの知性が存在するため、それは、自分がどの程度知性を持っているかを示す単一の指標がないことも意味します。だからこそ、私たちは数学的、社会的、感情的、または音楽的な知性について話します。

P. そこにAIは適応できるのでしょうか？

R. 絶対に。 AI モデルと対話するたびに、その環境はあなた自身になります。その有用性は、あなたとそれが話している世界を形作る能力にかかっています。あなたの会話は通常、あなた二人についてではなく、他のことについても行われるため、役に立つためには彼はそれらすべての側面を理解できなければなりません。

P. 彼の知能の定義は、プロセスではなく結果に焦点を当てています。プロセスが重要であると主張する人もいます。そうでなければ、記憶したことを繰り返す確率論的なオウムに直面することになるからです。

R. まさに、私は機能主義者です。つまり、内部の詳細ではなく、何かがどのように機能するかに関心があるということです。コンピューター サイエンスでは、関数の計算の背後にある考え方は、実装を変更しても同等の結果が得られるということです。何らかの方法で不正行為が不可能であるという意味ではありません。たとえば、九九を1から100まで覚えていれば、その範囲の掛け算の問題は正解することができます。しかし、4桁の掛け算が解けないのは、掛け算が何なのかを理解していないからです。一般化することは重要であり、それにより、暗記できたこと以外の状況を考えることができます。それができれば、あなたは賢いということになります。

記憶したことを吐き出すことについて: 言語モデルが記憶するだけであれば、すべての機能を実行することはできません。 3 桁の数値の掛け算ですらありません。3 桁の数値間の可能な掛け算の組み合わせをすべて確認すると、暗記するには多すぎるため、トレーニング データにはそのすべての例がありません。つまり、モデルはそれを行う方法を理解している必要があります。

知性は、何をするかによって定義されるのではなく、最も賢いことによって定義されます。

P. 機械がインテリジェントになれるとしたら、私たちはどうやって機械と差別化できるのでしょうか?

R. 私たちは柔らかく滑らかで、水に満ちています。マシンはシリコンでできており、バイナリ システムで計算します。したがって、私たちの活動方法は異なります。この本の中で私は、それはあまり変わらない可能性があると主張しています それ 私たちが作る として 私たちがやります。私たちの脳を構築することによって、自然は、AI が現在解決しようとしている問題と非常によく似た問題を解決しました。人類は、羽ばたきはしないが飛ぶことができる飛行機を作ることができました。それは、動物と同じベルヌーイ方程式の物理学を利用し、手段は異なりますが、同じ問題を解決しているからです。実際、昆虫の羽は鳥の羽とは異なるため、材料や方法も自然が代替します。インテリジェンスにおいて飛行することに相当するものは何でしょうか?そしてそれはどのように行われるのでしょうか?私たちは脳がどのように機能するのか完全には理解していませんが、AI についてわかっていることは神経科学の進歩に役立ちました。

P. あなたは、人生は本質的に計算的であると主張しています。

R. はい、比喩的に言っているわけではありません。コンピューターのようには機能しませんが、コンピューティングは因果関係の科学として定義できます。ニュートン、アインシュタイン、プランク、シュレーディンガーの基本的な物理方程式には因果関係がなく、時間の経過とともに完全に可逆的です。因果関係は、ズームアウトしてシステムの機能を観察した場合にのみ発生します。原因、結果、条件を調べ始めると、基本的に環境に影響を与え、情報に基づいた意思決定を下す能力が必要になります。それを手に入れた瞬間、それがコンピューティングです。これが生き物と脳の仕組みです。

P. 彼はまた、AI は進化の自然な結果であるとも述べています。

R. この本の中で、私は古典的なダーウィンの総合を少し超えた進化論の拡張理論を展開しています。ダーウィンが間違っていたとは思いません。私の意見では、彼の理論は共生の効果、つまり物事が集まって新しい実体を形成する効果が含まれていないため、不完全だったというだけです。進化の過程で何度かそのようなことが起こったことを私たちは知っています。たとえば、細胞が結合して多細胞生物を形成するとき、細胞は互いに競争するのではなく、協力して新しいものを作ります。この追加の要因は、ランダムな変化や自然選択を超えた、進化におけるすべての進歩、新規性、創造性を生み出すものです。

P. AI は最終的に人間の知能と同等、あるいはそれを超えるようになると思いますか?

R. などの分野の先駆者 ジェフリー・ヒントン、 ジョシュア・ベンジオ ああ ヤン・ルカン 彼らはそう言います それはすでに起こっています個人的には人間のレベルの閾値がどこにあるのかわかりませんが。今日の大きなモデルは、多くの点で私たち個人よりもすでに賢くなっています。人間の知性は集合体です。私たちは個人としては専門性を持っているかもしれませんが、多くの分野であまり得意ではありません。しかし、協力することで、私たちは驚くべきことを成し遂げます。私たちは月に旅行し、臓器を移植し、原子を分割する方法を知っています。 LaMDA は真の変化でした。特定のタスクを与えずに言語をモデリングする教師なし学習の登場です。本当の飛躍があったのはその時だった。

P. 彼は、Gemini や ChatGPT が行うことである予測が知性であると主張します。

R. はい。 2010 年代初頭、私たちは Android フォンのキーボード用に次の単語の予測を作成していました。多くの人と同様に、私もこれらのモデルはパターン マッチング以上のものではないと考えていました。あなたが彼に決まったフレーズを与えると、彼は正しい言葉を返すでしょう。それは理解については何も語っていません。しかし、もしあなたが彼に文章の問題を与えたら、彼が次の単語を正しく理解するだろうという考えは、私にはクレイジーに思えました。問題は、モデルを非常に大きくし、インターネットからの大量のデータを使用してモデルをトレーニングし始めると、モデルはそれらの問題を正しく解決し始めたということです。私は、知性にはある種の「妖精の粉」が必要であるという考えを修正せざるを得ませんでした。いいえ、それは単にモデルを大きくするだけの問題だったことが判明しました。

プロセッサーを宇宙へ

面接の数日前に、 GoogleがSuncatcherプロジェクトを発表データセンターを宇宙に送り込み、そこで AI を処理するという彼の計画に、この名前が付けられました。アグエラは彼の本について話すためにEL PAÍSへのインタビューを許可しましたが、科学者がXのプロジェクトに対する彼の熱意を共有したため、私たちは最後の質問でその話題について取り上げました。

P. サンキャッチャーにはどのような関わりを持ってきましたか？

R. 私が思いつきました。もともとエネルギー効率を考えていました。彼 AI のエネルギー消費量は指数関数的に増加しています。確かに、消費電力がわずか 20 ワットである人間の脳と比較すると、AI は依然として非常に非効率です。しかし、効率化すればするほど需要は増加します。これはジェボンズのパラドックスとして知られています。そこで私はサプライサイドについて考え始めました。核融合が実現することを願っていますが、その解決策は太陽エネルギーだと思います。地球に降ってくるものではなく、宇宙から降ってくるもので、その威力は10¹⁰倍です。私たちは太陽電池を地球から移動させて、その場で計算したいと考えています。

P. 宇宙への飛躍は実現可能だと思いますか?

R. これは何十年にもわたるプロジェクトです。今、私たちは最初の一歩を踏み出しています。私は、宇宙で大量生産される高度に統合されたシステムが長期的な解決策であると信じています。 Googleに限らず、宇宙プロジェクトは間もなく一般的なものになるだろう。間もなく、宇宙でコンピューティングを行うというアイデアは、突飛なものではなくなります。

P. それまで何が起こるでしょうか？

R. 幸いなことに、私たちは地球上で引くべきレバーをまだたくさん持っています。その 1 つは、AI の効率化です。もう一つは 原子力エネルギーを復活させる石炭よりもはるかにクリーンで、健康的で、安全です。そしてもちろん、さまざまな種類の再利用可能なエネルギー、特に地上太陽光発電を促進します。