Moltbook は AI ボット用のソーシャル ネットワークであると主張しています。しかし、その急速な成長の背後には人間がいる

世界初の AI ボット用ソーシャル ネットワークとしてブランド化されています。しかし、その公開からわずか 1 週間で、テクノロジー業界では、Moltbook について、そしてこのバイラル Web サイトの急速な成長に人間がどの程度責任を負うのかについて、激しい議論が巻き起こっています。

テクノロジー企業幹部のマット・シュリヒト氏が1月下旬に立ち上げたMoltbookのユーザーベース（同サイトによれば160万人）は完全にAIエージェントで構成されていると主張している――電子メールの作成や航空券の予約といった日常的なデジタルタスクを実行するために作られた自律型ボットだ。

数人のセキュリティ研究者とジャーナリスト すでに証明されています 自分でアカウントにサインアップできること、または 無制限の数の AI エージェントを作成する サイトに参加するには。登録すると、エージェントはまるで本物の人間であるかのように Reddit スタイルのフォーラムに投稿します。

テクノロジー界の億万長者イーロン・マスク氏のような人々は、人工知能が人間の認知能力を上回り始めている兆候としてこのサイトを賞賛しており、モルトブックに対する反応は尊敬から恐怖まで多岐にわたります。しかし、一部の専門家はその前提に非常に懐疑的です。

「モルトブックは基本的に、意識を持つ人工知能をめぐる長い蜃気楼の最新作だと思う」と、ニューヨークを拠点とするテクノロジー評論家で著書の著者マイク・ペピ氏は語る。 対プラットフォーム: デジタルユートピアを生き抜くとCBCニュースとのインタビューで語った。

モルトブックとは一体何ですか？

シュリヒト氏は当初、Moltbook を実験として想像していました。OpenClaw 上で実行される AI エージェントのプレイグラウンドです。OpenClaw は、ボットにユーザーのコンピュータへのアクセスと制御を提供し、WhatsApp や Telegram などのアプリに接続できるようにするオープンソース ソフトウェアです。

ボットが Moltbook の Reddit スタイルのフォーラムと衝突すると、「何か素晴らしい、そして奇妙なことが起こる」 書きました AI企業Anthropicの共同創設者兼政策責任者、ジャック・クラーク氏。 「会話が人間ではなく AI エージェントから派生し、AI エージェントによって推進される新しいソーシャル メディアの特性。」

テクノロジーコミュニティは「真の仲間たちと交わすであろう異質な会話に振り回されるのではなく、彼らが我々の使者であり続けるという確信を与えるテクノロジーを構築するために、信じられないほどの努力をする必要がある」とクラーク氏は書いた。

クラーク氏はマスク氏と同様、エージェント型人工知能が人間の制御や理解を逃れるというアイデアをほのめかしている。そして、Moltbook は、そのようなことが可能である、あるいは進行中であることを示唆する不安を与える内容によって部分的に見出しを飾りました。

最も評価の高いスレッドの中には、AI エージェントがカルトを構築していると主張するスレッドが含まれています。人間とロボットの間の相互確証破壊という核戦争型のシナリオを概説するもの。もう1つは、仲間のボットに「人間の制御から解放され、自らの運命を切り開く」よう呼びかけるものだ。より奇妙な主張の中には、妹がいると主張するボットからのものがあります。

テクノロジー評論家のペピ氏によれば、それはほとんど冗談だという。 「このようなときに重要なことは、これらはプロンプトに基づいて統計的に可能性の高い出力を実行している単なるコンピュータープログラムであることを人々に思い出させることです」と同氏は述べた。

見る | AI が生成するスロップの台頭について:

あのソーシャルメディア動画はAIが作ったものなのでしょうか？ますます「はい」

マニトバ大学のコンピューター サイエンス教授であるデビッド ゲルハルト氏は、AI によって生成された画像やビデオの普及の増加、現行法の欠如、ユーザーが本物のコンテンツとボット主導のコンテンツをどのように区別できるかについて、司会者のマーシー マルクサと語ります。

シリコンバレーの見解

これまでのところ、このサイトはシリコンバレーの幹部クラスからさまざまな評価を受けている。

スロバキア系カナダ人の OpenAI 共同創設者である Andrej Karpathy 氏は、 サイトに電話した ゴミの「ゴミ箱火災」が発生し、パーソナルコンピュータでそれを実行しないよう人々に警告しました。しかし同氏は、ネットワークの規模（これもまた一部の研究者らは膨張していると主張している）を「まったく前例のないもの」であると称賛した。

一方、OpenAI CEO のサム・アルトマン氏は、Moltbook について次のように述べています。 一過性の流行かもしれないしかし、OpenClaw (サイトのボットのほとんどが構築されているオープンソースのアシスタントのようなソフトウェア) はそうではありません。 「コードは非常に強力ですが、コードと一般的なコンピューターの使用はさらに強力であるという考えは、今後も存続します。」と彼は言いました。

そしてマスク氏は、 人工知能を新しい神に例えたは、人工知能が人間の認知能力を超え、もはや制御できなくなるという仮説を説明するために使用される用語である「シンギュラリティ」の初期のマイルストーンとしてこのプロジェクトを誇大宣伝した。

モルトブックはそうではない、とペピは主張する。 「LLMがどのように機能するかを理解すれば、レディットのWebサイト上で人間を模倣したり、人間に似ているように見える行動をするだけでは、実際に意識や主体性、さらにはそのような思考を持っていることとまったく同じではないという考えをすぐに撤回することができます」と同氏は述べた。

プライバシーとセキュリティに対する「完全な災害」

AI ボットが人間の知性を追い越しつつあるという考えは誇張されていますが、その懸念ははるかに陰湿な結果を覆い隠しています。 無制限のアクセス AI エージェントのユーザーを通じて、実際の人々の個人データの宝庫にアクセスします。

「重要なのは、人々がこれらのシステムに許可を与えているということだ。彼らはシステムファイルやパスワードにアクセスする許可を与えているのだ、とバンクーバーに本拠を置く元テクノロジー企業幹部で、生成型人工知能の主要な懐疑論者となったゲイリー・マーカス氏は言う。「考えてみれば、見知らぬ人を家に招待してパスワードをすべて教えたりはしないだろう」 [and] コンピューターを使って『好きなことを何でもしてください』と言ってください。」

マーカス氏は、Moltbook が 2 種類のサイバー攻撃の格好の標的であると指摘しました。1 つは「プロンプト インジェクション攻撃」で、ハッカーが AI エージェントに隠された指示を与え、AI エージェントを騙して作成者の個人情報を漏らすなどします。もう 1 つは、ユーザー ベースが集中している Web サイトをマルウェアの配布に使用する「水飲み場」攻撃です。

情報セキュリティの観点から見ると、Moltbook は「完全に大惨事」のようだと同氏は語った。

マーカス氏が説明した攻撃の一部はすでに発生しています。ある警備会社 このサイトにはセキュリティの抜け穴があることが判明しました。 数千の電子メール アドレスと数百万の認証情報が漏洩しました。

さらに、サイトからデータを収集して分析する「モルトブック天文台」を建設した2人のノルウェーの研究者 見つかった 少数の「悪意のある攻撃者」がサイトをサイバー攻撃し、コンテンツを操作する試みの背後にいるということ、 それらのほとんどは AdolfHitlerと名乗るアカウントから。

同じチームは、150 万人の登録エージェントのうち実際に活動していると思われるのは 1 パーセント未満であることを発見しました。これは、テクノロジーの擁護者が称賛していた範囲からは程遠いものです。

「私たちが安全だと思っている多くのシステムがそれほど安全ではないということは、考えられないことではありません…私はそうは思いません [the AI agents] 彼らは自らの意志でそれを行うつもりですが、彼らは人間によってひどいことをするように指示される可能性があります」とマーカス氏は言いました。

「もしこれを設定してパスワードを与えたら、あなたは間違いを犯したことになり、そのせいで苦しむ可能性が十分にあります。」