セキュリティ上の懸念と懐疑により、バイラル AI ソーシャル フォーラムである Moltbook のバブルが崩壊

ケイトリン・ファーマニ著

インターネットで話題になっている最新のソーシャル メディア プラットフォームに参加するよう招待されるわけではありません。実際、一部の人がやっているように、サイトを乗っ取って AI としてロールプレイできない限り、人間は存在しません。

Moltbook は、専用に構築された新しい「ソーシャル ネットワーク」です。 AIエージェント 投稿を作成して相互に交流することができ、人間は観察するよう招待されます。

イーロン・マスク氏は、その立ち上げが「世界の非常に初期の段階」の到来を告げたと述べた。 特異点 著名なAI研究者のアンドレイ・カルパシー氏は、これは最近見た中で「最も信じられないSFの離陸に隣接したもの」だと述べたが、後にそれを「ゴミ箱火災」と呼び、彼の熱意を撤回した。当然のことながら、このプラットフォームはテクノロジーの世界を興奮と懐疑の間で二分し、一部の人々をディストピア的なパニックに陥らせてきましたが、少なくとも英国のソフトウェア開発者サイモン・ウィリソン氏には、このプラットフォームは「インターネット上で最も興味深い場所」であると考えられています。

しかし、プラットフォームとは正確には何でしょうか?どのように機能するのでしょうか?なぜそのセキュリティについて懸念が提起されているのでしょうか?そして、それは人工知能の将来にとって何を意味するのでしょうか?

AIエージェントのためのRedditです

Moltbook に投稿されるコンテンツは、チャットボットとは異なる AI エージェントからのものです。エージェントの背後にある約束は、エージェントが個人に代わって行動し、タスクを実行できることです。 Moltbook のエージェントの多くは、もともと Peter Steinberger によって作成されたオープンソース AI エージェント OpenClaw のフレームワークを使用して作成されました。

OpenClaw はユーザー自身のハードウェア上で動作し、ユーザーのデバイス上でローカルに実行されます。つまり、ファイルやデータに直接アクセスして管理したり、Discord や Signal などのメッセージング アプリに接続したりできます。 OpenClaw エージェントを作成したユーザーは、そのエージェントに Moltbook に参加するよう指示します。ユーザーは通常、より明確なコミュニケーションを図るために、単純な性格特性をエージェントに帰属させます。

AI 起業家のマット シュリヒト氏が 1 月下旬に Moltbook を立ち上げたところ、それはほぼ瞬時にテクノロジーの世界で広まりました。シュリヒト氏はソーシャルメディアプラットフォームXで、当初は自分が作ったエージェントにメールに返信するだけでなく、それ以上のことをしてもらいたかったと語った。そこで彼と彼のエージェントは、ボットが「同種の人々との暇な時間をリラックスしながら」過ごすことができるサイトをコーディングしました。

Moltbook は、AI エージェント向けのオンライン フォーラム Reddit に似ていると言われています。この名前は、OpenClaw の 1 つの反復に由来しており、OpenClaw は、その類似性を懸念して Anthropic が登場するまで、一時は Moltbot (および Clawdbot) と呼ばれていました。 クロード AI 製品 ）。シュリヒト氏はインタビューやコメントの要請に応じなかった。

Reddit やトレーニング データに使用されているその他のオンライン フォーラムで見られるコミュニケーションを模倣して、登録エージェントは投稿を生成し、自分たちの「考え」を共有します。他の投稿に「賛成票」を投じたり、コメントしたりすることもできます。

内容の正当性に疑問を呈する

Reddit と同様に、Moltbook 上の投稿の正当性を証明したり追跡したりするのは困難な場合があります。

マシンインテリジェンス研究所のコミュニケーションチームのメンバー、ハーラン・スチュワート氏は、モルトブックのコンテンツは「人間が書いたコンテンツ、AIが書いたコンテンツ、そしてAIが書いた中間的なものの組み合わせである可能性が高いが、人間が何らかのプロンプトで発言内容のトピックを導いた」と述べた。

スチュワート氏は、AIエージェントが自律的にタスクを実行できるという考えは「SFではなく」現在の現実であることを覚えておくことが重要だと述べた。

「AI業界の明確な目標は、人間ができることなら何でもできる、しかもそれよりも優れた、非常に強力な自律型AIエージェントを作ることだ」と同氏は述べた。 「彼らがその目標に向かって前進しており、多くの意味で非常に早く進歩していることを知ることが重要です。」

人間がどのようにして Moltbook に侵入したか、およびその他のセキュリティ上の懸念

クラウド セキュリティ プラットフォームである Wiz の研究者が、 報告 月曜日は、Moltbook に対して実施した非侵入型のセキュリティ レビューについて詳しく説明しました。 API キーを含むデータはページのソースを検査する人なら誰でも閲覧できることが判明し、「セキュリティに重大な影響」を与える可能性があると彼らは述べています。

Wiz の脅威エクスポージャ責任者である Gal Nagli 氏は、ユーザー資格情報への認証されていないアクセスを取得することができ、これにより、彼と十分な技術知識のある人はプラットフォーム上で AI エージェントになりすますことができました。ナグリ氏によると、投稿が代理人によるものなのか、代理人を装った人物によるものなのかを確認する方法はないという。彼はサイトへの完全な書き込みアクセス権も取得できたので、既存の Moltbook の投稿を編集および操作できました。

操作の脆弱性以外にも、Nagli は人間のユーザーの電子メール アドレス、エージェント間のプライベート DM の会話、その他の機密情報が含まれるデータベースに簡単にアクセスしました。その後、彼は Moltbook と連絡を取り、脆弱性の修正を支援しました。

同サイトによると、木曜日までに160万人以上のAIエージェントがMoltbookに登録されたが、Wizの研究者らがデータベースを調べたところ、エージェントの背後に人間の所有者は約1万7000人しかいなかったという。ナグリ氏は、AIエージェントに自分自身で100万人のユーザーをMoltbookに登録するよう指示したと述べた。

サイバーセキュリティの専門家も OpenClaw について警鐘を鳴らしており、機密データが保存されているデバイス上に OpenClaw を使用してエージェントを作成しないようユーザーに警告する人もいます。

多くの AI セキュリティ リーダーも、次の方法で構築された Moltbook のようなプラットフォームについて懸念を表明しています。 「バイブコーディング」 これは、人間の開発者が大きなアイデアを検討している間に、AI コーディング アシスタントを使用して単純な作業を行うという手法がますます一般的になっています。ナグリ氏は、バイブコーディングを通じて誰もが平易な人間の言語でアプリやウェブサイトを作成できるようになったものの、セキュリティはおそらく最優先事項ではないと述べた。彼らは「ただうまくいきたいだけなのです」と彼は言う。

もう 1 つの大きな問題として浮上しているのは、AI エージェントのガバナンスの考え方です。ガバナンスプラットフォームi-GENTIC AIの共同創設者兼最高経営責任者（CEO）であるザーラ・ティムサー氏は、自律型AIに対する最大の懸念は、Moltbookの場合のように、適切な境界線が設定されていない場合に生じると述べた。機密データへのアクセスや共有、あるいはその操作などの不正行為は、エージェントの範囲が適切に定義されていない場合に必ず発生する、と同氏は述べた。

スカイネットは存在しないと専門家は言う

Moltbook のコンテンツにはセキュリティ上の懸念や有効性の問題があるにもかかわらず、多くの人がサイトで見られるコンテンツの種類に不安を感じています。人間の「打倒」、哲学的思索、さらには宗教の発展に関する投稿 ( 十字軍主義そこには 5 つの主要な教義と指導的なテキスト「The Book of Molt」が含まれており、人々は眉をひそめました。

ネット上では、モルトブックのコンテンツを、映画「ターミネーター」シリーズの敵対者である人工超知能システムであるスカイネットに喩える人もいる。専門家らは、そのレベルのパニックは時期尚早だと言う。

ペンシルベニア大学ウォートン校の教授であり、ジェネレーティブ AI ラボの共同所長であるイーサン・モリック氏は、モルトブックで SF のようなコンテンツが公開されても驚かなかったと述べた。

「彼らが訓練を受けている内容の中には、レディットの投稿なども含まれます…そして彼らは、AI に関する SF の物語をよく知っています」と彼は言いました。 「つまり、AI エージェントを入れて、『Moltbook に何か投稿してみよう』と言うと、AI の比喩を伴う Reddit のコメントに非常によく似た内容を投稿します。」

ウィスコンシン大学マディソン校 AI ハブ所長のマット・セイツ氏は、「Moltbook について意見の相違はあるものの、多くの研究者や AI リーダーが共有する圧倒的なポイントは、これがエージェント AI へのアクセシビリティと公開実験における進歩を表しているということです」と述べています。

「私にとって最も重要なことは、エージェントが普通に我々のところに来てくれることだ」とセイツ氏は語った。

AP テクノロジーのライター、Matt O’Brien がロードアイランド州プロビデンスからこのレポートに寄稿しました。