AI エージェントの計算が合わない

大きなAI 企業 私たちに約束した 2025 年は「AI エージェントの年」になるでしょう。の年となった。 について話しています AI エージェント、そして 2026 年かそれ以降までの変革の瞬間に向けて全力を尽くします。しかし、「私たちの生活が、私たちの代わりにタスクを実行し、基本的に世界を運営する生成型 AI ロボットによって完全に自動化されるのはいつですか?」という質問に対する答えが得られたらどうなるでしょうか?それは、そのように ニューヨーカーの漫画、「一度もしないのはどうですか？」

これは基本的に、数か月前、「エージェント AI」が過大評価された年の最中に、大した宣伝もなく発表された論文のメッセージでした。資格のある “幻覚ステーション: トランスフォーマーベースの言語モデルのいくつかの基本的な制限について」 それは、「LLM は、一定の複雑さを超えると計算タスクやエージェント タスクを実行できない」ことを数学的に示すことを目的としています。科学のことは私には理解できませんが、この分野の創始者であるジョン・マッカーシー氏と彼の 10 代の天才息子のもとで AI を研究した元 SAP CTO である著者たちは、エージェントの楽園のビジョンを数学の確かさで打ち破りました。 LLM の純粋な単語予測プロセスを超える推論モデルであっても問題は解決しない、と彼らは言う。

「彼らが信頼できるはずがない」と父親のヴィシャール・シッカは私に言う。 SAP に加えて、Infosys の CEO および Oracle 取締役を務めたキャリアを経て、現在は AI サービスのスタートアップ企業を率いています。 ヴィアナ。 「では、原子力発電所を運営しているAIエージェントのことは忘れるべきなのでしょうか？」尋ねます。 「その通りです」と彼は言います。時間を節約するために書類を提出したりすることもできるかもしれませんが、いくつかの間違いは許容しなければならないかもしれません。

AI 業界は変化し始めています。まず、エージェント AI で大きな成功を収めているのはコーディングであり、これは昨年本格的に始まりました。ちょうど今週ダボス会議で、ノーベル賞を受賞したグーグルのAI部門責任者デミス・ハサビス氏がこう言った。 報告された画期的な成果 幻覚を最小限に抑え、ハイパースケーラーも新興企業も同様にエージェントの物語を推し進めています。今では彼らにはバックアップがある。と呼ばれるスタートアップ 高調波 は、数学にも依存する AI コーディングのブレークスルーを報告しており、ベンチマークのトップを占めています。 信頼性。

ロビンフッドのCEO、ヴラド・テネフ氏とスタンフォード大学で訓練を受けた数学者のチューダー・アヒム氏が共同設立したハーモニック社は、アリストテレスと呼ばれる自社製品のこの最近の改良は、AIシステムの信頼性を保証する方法があることを示していると主張している。 「私たちは、AI がただの結果を生成し、人間がそれを実際にチェックできない世界に陥る運命にあるのでしょうか? それはクレイジーな世界でしょう」とアヒム氏は言います。 Harmonic の解決策は、数学的推論の形式的な方法を使用して LLM の出力を検証することです。具体的には、コーディングを検証する機能で知られるリーン プログラミング言語で出力をエンコードします。確かに、これまでの Harmonic の焦点は狭く、その主要な使命は「数学的超知性」の追求であり、コーディングはある程度有機的な拡張です。歴史エッセイのようなものは、数学的に検証することができませんが、その境界を超えています。今のところ。

それにもかかわらず、アヒム氏は、信頼できるエージェントの動作が一部の批評家が考えているほど問題であるとは考えていないようだ。 「現時点ではほとんどのモデルが、旅行の旅程の予約を推論するのに必要なレベルの純粋な知能を備えていると言えます」と彼は言います。

どちらの側も正しい、あるいは同じ側に立つことさえあるかもしれません。一方で、幻覚は今後も厄介な現実であり続けることに誰もが同意します。で 昨年9月に発表された論文では、 OpenAIの科学者らは、「大幅な進歩にもかかわらず、幻覚は依然としてこの分野を悩ませており、最新モデルにも依然として存在している」と書いている。彼らは、ChatGPT を含む 3 つのモデルに、主著者の論文のタイトルを提供するよう依頼することで、その不満な主張を証明しました。 3人とも偽のタイトルをでっちあげ、出版年も誤って報告していた。 OpenAIは論文に関するブログで、AIモデルでは「精度が100パーセントに達することは決してない」と不機嫌そうに述べた。