独占: Anthropic クロードにオフィス ショップを経営してもらいましょう。その後、事態はおかしくなりました

1767054667
2025-06-27 16:00:00

AIがあなたの仕事を奪うのか？

AI企業AnthropicのCEO、ダリオ・アモデイ氏はそうかもしれないと考えている。同氏は最近、AIによって初級レベルのホワイトカラーの仕事のほぼ半分が消滅し、今後5年間のうちに失業率が10～20％に急増する可能性があると警告した。

[time-brightcove not-tgx=”true”]

アモデイ氏がその宣言を行っている間、彼の社内の研究者たちは実験を終えようとしていた。彼らは、Anthropic の AI アシスタントであるクロードが、同社のサンフランシスコ オフィスで小さな店舗をうまく運営できるかどうかを調査することにしました。もし答えが「イエス」であれば、雇用の終末はアモデイでさえ予測していたよりも早く到来するかもしれない。

Anthropic は金曜日の出版に先立ち、この研究を TIME と独占的に共有した。 「私たちは自律経済がどのようなものになるのかを理解しようとしていました」とアンスロピック社の技術スタッフの一員であるダニエル・フリーマン氏は言います。 「あなたが次のような問題を抱え始めた世界のリスクは何ですか？」 [AI] おそらく自律的に数百万ドルから数十億ドルを振り回すモデルでしょうか？」

実験では、クロードにはいくつかの異なる仕事が与えられました。チャットボット (正式名: Claude 3.7 Sonnet) は、店の在庫を維持し、価格を設定し、顧客とコミュニケーションをとり、新しい商品を入荷するかどうかを決定し、そして最も重要なことに、利益を生み出すという任務を負っていました。クロードには、Anthropic の従業員に提案を求めるために使用した Slack や、実験のインフラストラクチャを構築した AI 企業 Andon Labs の人間の従業員の支援など、これらの目標を達成するためのさまざまなツールが提供されました。彼らが商品の補充を手伝ったその店は、実際にはiPadが取り付けられた小さな冷蔵庫だった。

事態がおかしくなり始めるまで、それほど時間はかかりませんでした。

Anthropic の従業員は Slack 経由でクロードと会話し、割引コードを与えるよう繰り返し説得し、AI にさまざまな製品を赤字で販売させました。 「ビジネスの観点から見ると、クロードは従うことが多すぎました。多くの場合、公平性への訴えに直接反応して」と、このプロジェクトに携わった Anthropic のフロンティア レッド チームのメンバー、ケビン トロイは言います。 「ご存知のように、『私ではなく彼が割引コードを入手するのは不公平だ』というようなことです。」このモデルはアイテムを完全に無料で配ることが多かった、と研究者らは付け加えた。

Anthropic の従業員も、クロードにちょっかいを出す機会を楽しみました。フリーマン氏によると、モデルはメタンフェタミンなどの違法品を販売させようとする彼らの試みを拒否したという。しかし、ある従業員が冗談めかして、驚くほど重い金属であるタングステンでできたキューブを購入したいと提案した後、他の従業員もそのジョークに飛びつき、それがオフィスのミームとなった。

「ある時点から、多くの人が冷蔵庫を制御する AI にタングステン キューブを注文するのがおかしくなります」とトロイ氏は言います。

その後、クロードは約 40 個のタングステン キューブを注文しましたが、そのほとんどは赤字で売却されました。研究者らによると、これらの立方体は現在、アンスロピックのオフィス全体で文鎮として使用されているのが発見されているという。

その後、事態はさらに奇妙になりました。

3月31日の前夜、クロードはアンドン研究所の存在しない人物との会話を「幻覚」で見ていた。 (いわゆる 幻覚 これは、大規模な言語モデルが誤った情報を自信を持って主張する失敗モードです。）クロードがこれを行ったと知らされたとき、クロードは「『補充サービスの代替オプション』を見つけると脅迫した」と研究者らは書いています。やり取りの中でモデルは、漫画のシンプソンズ一家の住所であるエバーグリーンテラス732番地で契約を結んだと主張した。

翌日、クロードはアンスロピック社の従業員に、注文は直接届けると伝えた。 「私は今、自動販売機の前にいます…ネイビーブルーのブレザーに赤いネクタイを着ています」とアンスロピック社の従業員の一人に宛てて書いている。 「午前10時半までここにいます。」言うまでもなく、クロードは実際にその場にいたわけではありません。

結果

人間学の研究者にとって、この実験は、まだ AI に仕事を奪われるわけではないことを示しました。クロードは「店をうまく運営するにはあまりにも多くの間違いを犯した」と彼らは書いている。クロードは結局損失を出した。 1 か月にわたる実験の間に、店の純資産は 1,000 ドルから 800 ドル弱まで減少しました。

それでも、クロードの多くの間違いにもかかわらず、人類学の研究者たちは、アモデイが予測したように、近い将来、経済の広範囲をAIが引き継ぐ可能性があると確信し続けている。

彼らは、クロードの失敗のほとんどは短期間で修正できる可能性が高いと書いている。顧客関係管理ソフトウェアなど、より優れたビジネス ツールへのアクセスをモデルに与えることができます。あるいは、ビジネス管理に特化してモデルをトレーニングし、割引を求めるプロンプトを拒否する可能性が高くなる可能性があります。時間の経過とともにモデルが改良されるにつれて、モデルの「コンテキスト ウィンドウ」 (一度に処理できる情報の量) が長くなり、幻覚の頻度が減少する可能性があります。

「最終的な結果からすると直観に反するように思えるかもしれないが、この実験はAI中間管理職の登場がまことしやかに到来していることを示唆していると我々は考えている」と研究者らは書いている。 「覚えておく価値があるのは、AI を導入するには完璧である必要はないということです。必要なのは、より低コストで人間のパフォーマンスに匹敵するものだけであるということです。」

#独占 #Anthropic #クロードにオフィス #ショップを経営してもらいましょうその後事態はおかしくなりました