AI開発者は、AI「エージェント」が人間の代わりにはならないことを認識している – AIは「人間や動物にすら匹敵しない」

による ブライアン・シルハヴィ
健康影響ニュース編集者

サム・アルトマン氏とともにOpenAIの創設メンバーの1人であるアンドレイ・カルパシー氏は、先週末、AIが人間に取って代わるという考えは「すぐそこまで来ている」のは真実ではなく、業界のリーダーたちが金銭的利益のためにAIを過剰に宣伝していると述べ、AI技術界に大きな波紋を巻き起こした。

同氏は、AIコードは人間や動物のように学習したり推論したりすることはできないと述べた。

アンドレイ・カルパシー氏のAIの過剰宣伝は正しいのか?

による 情報

抜粋:

OpenAIの創設メンバーの1人であるアンドレイ・カルパシー氏は金曜日、汎用人工知能がすぐそこまで来ているという考えに冷や水を浴びせた。同氏はまた、Anthropic の Dario Amodei 氏や OpenAI の Sam Altman 氏など、業界最大の推進者が AI について行ったさまざまな想定にも疑問を投げかけました。

高く評価されているカルパシー氏は、現在おそらく最も重要な研究分野である強化学習を「ひどい」と呼び、AIを活用したコーディングエージェントは多くの人が思っているほど刺激的ではないと述べ、 AI は、まだトレーニングされていないものについて推論することはできません。

Dwarkesh Patel とのポッドキャスト インタビューからの彼のコメントは、OpenAI や Anthropic で働いたことのある人たちを含む、私たちが話を聞いた一部の AI 研究者の共感を呼びました。彼らはまた、今年初めに機械学習に関する国際会議で研究者から聞いたコメントにも同意しました。

カルパシーの自身の分野に対する批判の多くは、次の 1 つの点に要約されるようです。 私たちは大規模な言語モデルを擬人化することを好みますが、学習方法では人間や動物にすら匹敵しません。。

例えば、シマウマは生まれてからわずか数分で立ち上がって歩き回っていることから、シマウマは生まれつきある程度の知能を持っていることが示唆される一方、LLMは新しいスキルを習得するために膨大な試行錯誤を経なければならないとカルパシー氏は指摘する。

これは多くの問題につながりますが、その多くは、LLM がトレーニングの対象となったデータ以外の主題や情報を伴う作業を行うのに苦労するという考えに集中しています。 AI の用語では、モデルが「一般化」しないことを意味します。

LLM が人間とは異なる学習方法を示す例は、モデル トレーニング手法である強化学習に見られます。 その日の これは、特定の目標を達成したモデルに報酬を与え、他の行動に対してペナルティを与えるものです。

Karpathy 氏は、RL は学習プロセスを単純化しすぎていると指摘しています。モデルが最終的に正しい答えに到達したからといって、その時点までに行ったすべてのステップが正しいとは限りませんし、その逆も同様です。 （カルパシーは、RL を「ストローで監督を吸う」ことに例えました。）

対照的に、人間は最終的な結果だけでなく、自分の思考プロセスをより深く考えることができます。たとえば、会社を成功させたいと考えている創業者は、最初の会社が最終的に成功したかどうかに関係なく、会社設立のプロセスを振り返り、その洞察を次の会社に活かすために何が正しかったのか、何が間違っていたのかを考えることができます。

これの AI バージョンは、モデルに思考プロセスのすべてのステップでフィードバックを取得させるというもので、これは一部で試みられたアプローチですが、非常に費用がかかり、退屈になる可能性があります。

カルパシーのインタビューが公開された直後の今週末、実際には答えを調べただけだった新しい数学の問題を GPT-5 が解決したと主張し、OpenAI が大騒ぎになったのは当然のことだ。

もしかしたら、AI 研究の自動化は思ったよりも遠いのかもしれません。

これらすべては、時には懐疑的になることが良いこと、そしてベンチャーキャピタルや他の投資家から数十億ドルを獲得するためにAIの進歩を誇大宣伝するインセンティブを持たない専門家の意見に耳を傾けることが良いことを示しています。。 (記事全文 – 購読が必要です。）

AI「エージェント」は人間に取って代わるものではない

アーロン・ホームズ氏が本日公開した別の記事では、 情報、彼らは、今年（2025年）の初めに存在した「AIエージェント」についての誇大宣伝と、約束の観点から私たちが実際に今日どのような状況にあるのかを調べました。同氏は、OpenAIの共同創設者であるアンドレイ・カルパシー氏のコメントにも言及した。

エージェントの現実確認

今年の初め頃、OpenAI や Salesforce などの人工知能プロバイダーの幹部らは、2025 年は「エージェントの年」になると述べ、完全自律型 AI が間もなく人間の仕事を奪うのではないかと思わせました。

それ以来、Salesforce、Microsoft、SAP など多くの企業が、コーディング、人事、財務、販売などの分野のホワイトカラー業務を自動化するために、およそ 7 種類のエージェントを売り込みました。

しかし、真に自律的なエージェントの約束はまだ果たされておらず、テクノロジーリーダーらは企業に対し、期待を下げるよう警告している。

OpenAI の創設メンバーの 1 人であり、AI 研究の主導者である Andrej Karpathy 氏は次のように考えています。 AIが仕事全体を有意義に自動化できるようになるまでには少なくとも10年はかかるだろう、

「一緒に働くために雇う従業員やインターンのようなものです。」

ポッドキャストのインタビューで、彼は AI の現在の能力について厳しい評価を下しました。 大規模な言語モデルには認知機能が欠けており、ほとんどの仕事は依然として自動化できないと主張しました。

「全体的に見て、モデルは存在しません」とカルパシー氏はポッドキャスターのドワルケシュ・パテル氏に語った。

「業界は飛躍しすぎていて、これが素晴らしいかのように装おうとしているように感じますが、実際はそうではありません。ずさんです。彼らはそれを受け入れていないので、資金集めか何かをしようとしているのかもしれません。」

Karpathy 氏の発言は、AI エージェントを使用する最前線にいるビジネス リーダーの共感を呼びました。彼らは、AI に職場の複雑なタスクをエラーなく処理させようとして、過去 1 年間、繰り返し速度の低下に遭遇していました。

「これらのツールを『エージェント』と呼ぶのが最近の流行ですが、エージェントというのは実際には自律型という意味ではありません」とドンゼ氏は言う。

「すべてが自律的になるというマーケティングの方針があり、その裏にはある程度の真実がありますが、自律的になることができるのは限られたユースケースでのみです。」

一部の従業員の代わりに AI エージェントを使用していると言う人もいますが、エージェントは通常の従業員よりも厳しく監督する必要があることに注意してください。

電子商取引市場アプリ「ガムロード」の最高経営責任者（CEO）サヒル・ラビンジア氏は、AIコーディングエージェントのおかげでエンジニアリングチームの規模は2年前の40人以上から約12人に縮小したが、残りのスタッフはエージェントの作業を再確認することに多くの時間を費やしていると述べた。

「年間40万ドルの仕事を置き換えることができるのは興味深いと思います」 [with agents]しかし完全に置き換えることはできません。私には他に人がいるだけで、生産性を 4 倍にするエージェントの管理に 40 万ドルを払って、その後 3 人を解雇しているのです」とラビンジア氏は語った。

「AI が生成したコードは、 [checked] 製品エクスペリエンスはまだ AI によって検証されていないため、それはコーディングとは別のタスクです。」

先週、OpenAI 研究者の Sebastien Bubeck が X に登壇し、OpenAI の GPT-5 モデルによる印象的な成果を共有しました。この AI は、研究者がエルドス問題として知られる数学のいくつかの困難な予想の解決策を見つけるのに役立ちました。エルドス問題は、20 世紀の数学者ポール エルドスによって数十年前に初めて作成されました。

OpenAI for Scienceの副社長であるケビン・ワイル氏も同様の成果を宣伝し、GPT-5は「数十年にわたって未解決だった」エルドシュの10の問題に対する「解決策を見つけた」と述べた。

この発表を、OpenAIのモデルが複雑な数学においてより優れていることの証拠と受け止める人もいた。しかし、ビューベック氏が言及していたエルドス問題のオンラインデータベースを管理しているオックスフォード大学の研究者トーマス・ブルーム氏は金曜日、その熱意をいくらか萎縮させた。

ブルームが X で指摘したように、 GPT-5 は問題の数学問題を実際には解決しませんでした。すでにそれらの問題を解決した他の数学者によるオンライン出版物が表面化しただけです。

ブルーム氏のサイトに問題が「未解決」として掲載されていたのは、ブルーム氏自身が他の人が問題を解決したことを知らなかったためだと同氏はワイル氏への返答で述べた。

ワイル氏とビューベック氏は投稿を削除し、その後の投稿で、GPT-5は数学の問題を解決するのではなく、関連する研究を明らかにするのに役立つことが証明されたことを明確にするつもりだったと述べた。

OpenAIのライバルの中には、ワイル氏の元の投稿を「恥ずかしい」と呼んだGoogle DeepMind CEOのデミス・ハサビス氏など、すぐに飛びついた者もいる。 (記事全文。購読が必要です。）

このニュースは今週 AI 界に衝撃を与えましたが、これらはすべて私が約 2 年半にわたって書き、言い続けてきた非常に基本的な内容です。

AI は人間に取って代わることはできませんが、2022 年末に OpenAI と Microsoft によって開始された新しいラージ言語モデル (LLM) AI は、人間を支援し、人間の作業をより簡単かつ迅速にするツールとして一定の価値があります。

AIバブルが崩壊しても、このAIの実世界への応用と有用性は残ります。 しかし、私たちの経済はこれから起こる市場の調整を乗り切ることができるだろうか?

この記事は Human Superior Intelligence (HSI) によって書かれました。

関連項目:

私たちが現在生きている時代を理解する

「信仰」はただ一つ――この邪悪な終わりの日に「信仰」のために「善戦」するのは誰でしょうか？

セックスと結婚に関するキリスト教の教えと実際の聖書の教え

あなたの国籍はどこに登録されていますか?

キリスト教シオニズムカルトを暴露する

邪眼と野獣の刻印を持つアメリカの魅惑

ユダヤ人国家に対するイエス・キリストの反対: 今日の教訓

インサイダーが世界最古の秘密宗教としてのフリーメーソンとルシフェリアンの新世界秩序計画を暴露

新世界秩序を実行するルシフェリアン・グローバリストの特定 – 「ユダヤ人」とは誰ですか?

脳の神話: 知性や思考は脳ではなくハートから生まれる

事実確認: 「キリスト教」とキリスト教の宗教は聖書に登場しない – イエス・キリストという人物

2025 年 10 月 21 日発行