Yann LeCun と連携したスタートアップが AGI への新たな道を描く

尋ねると ヤン・ルカンシリコンバレーには集団思考の問題があります。 11 月に Meta を去って以来、研究者であり AI の著名人である彼は、 狙いを定めた 大規模言語モデル (LLM) によって、コンピューターが人間の知能に匹敵するかそれを超える閾値である汎用人工知能 (AGI) に私たちは到達できるだろう、という正統派の見方があります。皆さん、彼は次のように宣言しました。 最近のインタビュー、「LLM錠剤」を投与されています。

1 月 21 日、サンフランシスコを拠点とするスタートアップ Logical Intelligence LeCunを取締役に任命。理論に基づいて構築する ルカンによって考案された 20年前、このスタートアップは、学習し、推論し、自己修正する機能を備えた、異なる形式のAIを開発したと主張している。

ロジカル インテリジェンスは、エネルギーベースの推論モデル (EBM) として知られるものを開発しました。 LLM はシーケンス内の最も可能性の高い次の単語を効果的に予測しますが、EBM は一連のパラメーター (たとえば、数独のルール) を吸収し、その範囲内でタスクを完了します。この方法では、試行錯誤が少なくなるため、間違いがなくなり、必要な計算量もはるかに少なくなるはずです。

創設者兼CEOのイブ・ボドニア氏は『WIRED』とのインタビューで、このスタートアップのデビューモデルであるKona 1.0は、単一のNvidia H100 GPU上で動作するだけであるにもかかわらず、世界をリードするLLMよりも何倍も速く数独パズルを解くことができると述べた。 (このテストでは、LLM は、パズルを「総当たり」することを可能にするコーディング機能の使用をブロックされます。)

Logical Intelligence は、実用的な EBM を構築した最初の企業であると主張していますが、これまでは単なる学術的な空想にすぎませんでした。その狙いは、コナがエラーが許されない環境で、エネルギーグリッドの最適化や高度な製造プロセスの自動化などの厄介な問題に対処することだ。 「これらのタスクはどれも言語に関連していません。それは言語以外の何ものでもありません」とボドニア氏は言います。

ボドニア氏は、Logical Intelligence が、LeCun が最近立ち上げたパリを拠点とする新興企業 AMI Labs と緊密に連携することを期待しています。AMI Labs は、さらに別の形式の AI、いわゆるワールド モデルを開発しており、物理的次元を認識し、永続的な記憶を実証し、アクションの結果を予測することを目的としています。 AGIへの道は、これらの異なるタイプのAIを階層化することから始まる、とボドニア氏は主張する。LLMは自然言語で人間と対話し、EBMは推論タスクを引き受け、ワールドモデルはロボットが3D空間で行動するのを支援する。

ボドニアさんは今週、サンフランシスコのオフィスからテレビ会議を通じて『WIRED』に語った。次のインタビューは、明確さと長さのために編集されています。

WIRED: ヤンについて聞いてみます。あなたとの出会い、ロジカル インテリジェンスでの研究の舵取りにおける彼の役割、取締役会における彼の役割について教えてください。

ボドニア: ヤンはニューヨーク大学の教授として学術面での豊富な経験を持っていますが、長年にわたってメタや他の協力者を通じて実際の産業に触れてきました。彼は両方の世界を見てきました。

私たちにとって、彼はエネルギーベースのモデルと関連するさまざまな種類のアーキテクチャの唯一の専門家です。私たちがこの EBM に取り組み始めたとき、私が話せる唯一の人は彼でした。彼は、当社の技術チームが特定の方向に進むのを手伝ってくれます。彼はとても実践的でした。ヤンなしでは、私たちがこれほど速くスケールすることは想像できません。

ヤン氏は、LLM の潜在的な限界と、どのモデル アーキテクチャが AI 研究を前進させる可能性が最も高いかについて、率直に語ります。あなたはどこに立っていますか？

LLM は非常に推測が必要なゲームです。そのため、大量のコンピューティングが必要になります。ニューラル ネットワークを使用し、インターネットからのほぼすべてのゴミをそれに与え、人々が互いに通信する方法を教えようとします。

あなたが話すとき、あなたの言語は私にとって知的なものですが、それは言語のせいではありません。言語はあなたの脳の中にあるものを表現したものです。私の推論はある種の抽象空間で起こり、それを言語に解読します。人々は知性を模倣することで知性をリバースエンジニアリングしようとしているように感じます。