Anthropic を悩ませ、データを公開する AI アシスタント

Peter Steinberger 氏の AI アシスタント Clawdbot (現在は Moltbot) が急速に広まり、Anthropic から警告を受け、セキュリティ上の大きなギャップが明らかになりました。何百もの保護されていないサーバーがインターネット上に公開されています。

オーストリアの開発者は、自分のコンピューター上でローカルに実行される AI アシスタントを構築し、数日以内に広まり、その後 Anthropic によってブランド変更を余儀なくされました。テクノロジーのおとぎ話のように聞こえますが、同時に起こっているセキュリティ上の災害がなければ。

Moltbot (当初は Clawdbot と呼ばれていました) は、賢明なオープンソース プロジェクトがいかに急速にデータ保護の悪夢に変わるかを示す一例です。わずか数週間で 44,200 人を超える GitHub スターがその魅力を物語っています。認証のない何百ものオープンサーバーが実装に反対しています。

ロブスターから訴訟まで

@sreipete として知られる Peter Steinberger は、パーソナル アシスタントとして Moltbot を開発しました。これは、ただチャットするのではなく、実際に物事を遂行する AI です。カレンダーを管理し、メッセージを送信し、フライトのチェックインを実行します。このプロジェクトは、3 年間の休暇を経て再びコーディングへの情熱を取り戻した開発者によるソロ プロジェクトとして始まりました。

Steinberger は当初、Anthropic の主力モデルにちなんでボットに Claude という名前を付けましたが、これは間違いでした。人間性が彼に大声を強要した テッククランチ 商標権侵害によるブランド変更の場合。 Clawdbot は Moltbot になりましたが、ロブスターの魂は残りました。この法的紛争は、オープンソース プロジェクトであっても、リーチが広がるとすぐに企業の利益と衝突することを示しています。

Clawdbot/Moltbot で何ができるか、そしてどこで失敗するか

Moltbot は Telegram、WhatsApp、Signal、iMessage に統合され、さまざまな言語モデルを接続し、完全にローカルで実行されます。クラウド要件やビッグテックへの依存はありません。この理論は魅力的に聞こえます。サーバー費用が月額 5 ドルで、事前にブリーフィングを送信し、タスクを自動化する記憶力のあるアシスタントが必要です。練習すると根本的な弱点が明らかになります。

セキュリティ研究者のジェイミーソン・オライリー氏が声を出して文書化 トレンドトピックス何百人ものユーザーが制御サーバーを保護されていない状態で操作しているということです。 Shodan で「Clawdbot Control」を簡単に検索すると、数秒以内に数百の公開されたインスタンスが返されます。 API キー、ボット トークン、OAuth 認証情報、完全なチャット履歴 – すべて公開されます。

認証の惨事

技術的な理由は設計にあります。Moltbot は認証なしでローカルホスト接続を自動的に承認します。ローカル設定では実用的ですが、リバース プロキシの背後にある実際の展開では致命的です。すべての接続はローカルとして表示され、外部アクセスはウェーブスルーされます。 ボーンシティ ユーザーが公的にアクセス可能なサーバー上に Signal アカウントを設定し、一時ファイル内のペアリング資格情報を世界中で読み取ることができるケースが報告されています。

AI 機関によって公開されたシステムでは、root 権限で任意のコマンドを実行することもできました。 Archestra AI の CEO、Matvey Kukuy 氏は、プロンプト インジェクションによって 5 分以内に秘密キーを抽出しました。ブロックチェーン セキュリティ企業 SlowMist は、侵害された数百の API キーを特定しました。

ページ 1 / 2