Anthropic のクロードがロボット犬を制御

ロボットが増えるにつれて 大規模な言語モデルが複雑なシステムをハッキングするという考えは、倉庫、オフィス、さらには人々の自宅にも現れるようになり、SF の悪夢のように聞こえます。したがって、当然のことながら、 人間的 研究者たちは、クロードがロボット、この場合はロボット犬を制御しようとすると何が起こるかを知りたがっていました。

新しい研究で、人類学の研究者らは、クロードがロボットのプログラミングとロボットに物理的な作業を実行させることに関わる作業の多くを自動化できたことを発見した。あるレベルでは、彼らの発見は現代の AI モデルのエージェントコーディング能力を示しています。もう 1 つは、モデルがコーディングのより多くの側面を習得し、ソフトウェアや物理的なオブジェクトとの対話がより上手になるにつれて、これらのシステムがどのように物理的領域に拡張され始めるかをほのめかしています。

「AIモデルの次のステップは、世界に手を広げ、より広範囲に世界に影響を与え始めることなのではないかという疑念を抱いています」と、潜在的なリスクに対するモデルを研究するAnthropicのレッドチームのメンバー、ローガン・グラハム氏は『WIRED』に語った。 「これには、モデルとロボットとのインターフェースがさらに必要になるでしょう。」

Anthropic は、AI が進歩するにつれて問題が発生し、危険になる可能性があると考えた元 OpenAI スタッフによって 2021 年に設立されました。現在のモデルはロボットを完全に制御できるほど賢くはありませんが、将来のモデルはそうなる可能性がある、とグラハム氏は言います。同氏は、人々がLLMを活用してロボットをプログラムする方法を研究することは、AIがいつか物理システムを操作するかもしれないという考えに言及し、「モデルは最終的には自己具現化する」という考えに業界が備えるのに役立つ可能性があると述べた。

AI モデルがなぜロボットを制御しようとするのか、ましてやロボットで何か悪意のあることをするのかはまだ不明です。しかし、最悪のシナリオについて推測することは Anthropic のブランドの一部であり、それは同社を責任ある AI 運動の主要なプレーヤーとして位置づけるのに役立ちます。

「プロジェクト・フェッチ」と名付けられたこの実験で、アンスロピック社はロボット工学の経験のない2つの研究者グループに、四足歩行のロボット犬「Unitree Go2」を制御し、特定の活動を実行するようにプログラムするよう依頼した。チームにはコントローラーへのアクセスが与えられ、ますます複雑なタスクを完了することが求められました。 1 つのグループはクロードのコーディング モデルを使用し、もう 1 つのグループは AI の支援なしでコードを作成していました。クロードを使用したグループは、すべてではありませんが、人間だけのプログラミング グループよりも早く一部のタスクを完了することができました。たとえば、ロボットに歩き回ってビーチボールを見つけることができましたが、これは人間だけのグループでは理解できませんでした。

Anthropic はまた、両チームのやり取りを記録して分析することで、両チームのコラボレーションのダイナミクスを研究しました。彼らは、クロードにアクセスできなかったグループがより否定的な感情と混乱を示していることを発見しました。これは、クロードがロボットへの接続を迅速化し、使いやすいインターフェイスをコーディングしたためであると考えられます。

Anthropic の実験で使用された Go2 ロボットの価格は 16,900 ドルで、ロボットの標準からすると比較的安価です。通常、建設や製造などの業界で遠隔検査やセキュリティパトロールを行うために導入されています。ロボットは自律的に歩くことができますが、通常は高レベルのソフトウェア コマンドまたはコントローラーを操作する人に依存します。 Go2 は中国の杭州に拠点を置く Unitree によって製造されています。最近の調査によると、同社の AI システムは現在市場で最も人気がある セミアナリシスによるレポート。

ChatGPT やその他の賢いチャットボットを強化する大規模な言語モデルは、通常、プロンプトに応じてテキストまたは画像を生成します。最近では、これらのシステムはコードの生成とソフトウェアの操作に熟達し、単なるテキストジェネレーターではなくエージェントに変わりました。