1729136650
2024-10-17 01:54:00
今日の AI モデルは、本当に人間の脳と同じように、記憶し、考え、計画し、推論することができるのでしょうか?一部の AI 研究所はそう信じているかもしれませんが、Meta のチーフ AI サイエンティストである Yann LeCun 氏によると、答えはノーです。しかし、「ワールドモデル」と呼ばれる新しい方法を追求すれば、10年ほどでそこに到達できるだろうと彼は考えている。
今年の初め、OpenAI は、ChatGPT が会話を「記憶」できるようにする「メモリ」と呼ばれる新機能をリリースしました。このスタートアップの最新世代のモデル o1 は、出力の生成中に「思考」という単語を表示し、OpenAI によれば、同じモデルは「複雑な推論」が可能だという。
これだけでも、AGI にかなり近づいているように思えます。ただし、 ハドソンフォーラムでの最近の講演LeCun氏は、人間レベルのAIがもうすぐそこまで来ていると示唆するxAI創設者のイーロン・マスク氏やGoogle DeepMind共同創設者のシェーン・レッグ氏らAI楽観論者を軽視した。
「私たちは世界を理解する機械を必要としています。 [machines] 物事を記憶でき、直感があり、常識があり、人間と同じレベルで推論して計画を立てることができるのです」とルカン氏は講演中に語った。 「最も熱心な人々から聞いたことがあるかもしれませんが、現在の AI システムにはこれらの機能はまったくありません。」
LeCun 氏は、ChatGPT や Meta AI を支えるような、今日の大規模な言語モデルは「人間レベルの AI」には程遠いと述べています。人類がそのようなことを達成するには「数年から数十年」かかるかもしれない、と彼は後に語った。 (とはいえ、彼の上司であるマーク・ザッカーバーグが、AGI がいつ起こるのか尋ねるのを止めるわけではありません。)
その理由は簡単です。これらの LLM は次のトークン (通常は数文字または短い単語) を予測することによって機能し、今日の画像/ビデオ モデルは次のピクセルを予測しています。言い換えれば、言語モデルは 1 次元の予測子であり、AI 画像/ビデオ モデルは 2 次元の予測子です。これらのモデルは、それぞれの次元での予測には非常に優れていますが、3 次元の世界を実際には理解していません。
このため、現代の AI システムは、ほとんどの人間ができる単純なタスクを実行できません。ルカン氏は、人間がどのようにして 10 歳までに夕食のテーブルを片付け、17 歳までに車の運転を学び、その両方を数時間で習得するかを指摘しています。しかし、今日の世界で最も先進的な AI システムは、数千時間または数百万時間のデータに基づいて構築されていますが、物理世界で確実に動作することはできません。
より複雑なタスクを達成するには、新しいタイプの AI アーキテクチャである世界モデルを中心に、周囲の世界を認識できる 3 次元モデルを構築する必要があると LeCun 氏は示唆しています。
「世界モデルとは、世界がどのように行動するかについての心のモデルです」と彼は説明しました。 「あなたは自分が取るであろう一連の行動を想像することができ、世界モデルを使えば、その一連の行動が世界にどんな影響を与えるかを予測することができます。」
自分の頭の中で「世界モデル」を考えてみましょう。たとえば、散らかった寝室を見て、それをきれいにしたいと思ったと想像してください。すべての服を拾い上げてしまうことが、どれほど効果があるか想像できるでしょう。複数の方法を試す必要も、最初に部屋の掃除方法を学ぶ必要もありません。あなたの脳は 3 次元空間を観察し、最初の試行で目標を達成するための行動計画を作成します。その行動計画は、AI の世界モデルが約束する秘密のソースです。
ここでの利点の 1 つは、ワールド モデルが LLM よりもはるかに多くのデータを取り込めることです。また、そのため計算量も多くなり、クラウド プロバイダーが AI 企業との提携を競っているのはこのためです。
ワールド モデルは、いくつかの AI 研究所が現在追い求めている大きなアイデアであり、この用語は急速にベンチャー資金を集める次の流行語になりつつあります。フェイフェイ・リー氏やジャスティン・ジョンソン氏を含む、高く評価されている AI 研究者のグループが、彼らのスタートアップである World Labs のために 2 億 3,000 万ドルを調達したところです。 「AI のゴッドマザー」とそのチームはまた、世界モデルが大幅にスマートな AI システムを実現すると確信しています。 OpenAIはまた、未発表のSoraビデオジェネレーターを世界モデルとして説明しているが、詳細には触れていない。
LeCun 氏は、世界モデルを使用して人間レベルの AI を作成するアイデアを概説しました。 2022 年の論文 彼は「目標駆動型 AI」について述べていますが、この概念は 60 年以上前のものであると述べています。つまり、世界の基本表現 (たとえば、汚い部屋のビデオなど) とメモリが世界モデルに入力されます。次に、世界モデルはその情報に基づいて世界がどのようになるかを予測します。次に、達成したい変更された世界の状態 (クリーン ルームなど) や、目的 (人を殺さない) を達成するためにモデルが人間に害を及ぼさないようにするためのガードレールなど、世界モデルの目的を指定します。部屋の掃除中です、お願いします）。次に、世界モデルはこれらの目的を達成するためのアクション シーケンスを見つけます。
LeCun 氏によると、Meta の長期的な AI 研究ラボである FAIR (Fundamental AI Research) は、目標駆動型の AI および世界モデルの構築に積極的に取り組んでいます。 FAIR はかつて Meta の今後の製品のための AI に取り組んでいましたが、LeCun 氏によると、研究室は近年純粋に長期的な AI 研究に重点を置くようになりました。 LeCun 氏によると、FAIR は最近では LLM さえ使用していません。
世界モデルは興味深いアイデアですが、これらのシステムを現実にすることに関してはあまり進んでいないとルカン氏は言います。私たちが今日いる場所には非常に難しい問題がたくさんあり、それは確かに私たちが思っているよりも複雑であると彼は言います。
「ここですべてを機能させるには、10年とは言わないまでも、何年もかかるだろう」とレクン氏は語った。 「マーク・ザッカーバーグは、どれくらい時間がかかるか私に尋ね続けます。」
#メタ社のAI責任者世界モデルが人間レベルのAIの鍵となると語るが実現には10年かかるかもしれない