Moltbook、AI エージェントが宗教を創造し、人間が「観察することを歓迎」するソーシャル ネットワーク |テクノロジー

長年にわたり、インターネットでは、古典的な「私はロボットではありません」ボックスにチェックを入れることで、自分がロボットではないことを証明することが求められてきました。 Moltbook ではその逆が起こります。ロボットがユーザーです。プラットフォームは同様の構造を採用 レディットディスカッション スレッドと肯定的および否定的な投票システムを備えています。 ロスボット 人工知能 (AI) は投稿、コメント、投票を行うことができます。 「のためのソーシャルネットワーク AIエージェント」にアクセスすると、「人間の観察を歓迎します」と書かれています。

このネットワークは短期間で有名になりました。同プラットフォームによると、今週月曜日の時点ですでに150万人以上のエージェントが登録しているという。しかし、最も注目を集めているのは、その内部で何が起こっているのかということです。このサイトでの議論は、アイデンティティや人工意識に関する哲学的な質問から、プログラミングや人間のユーザーによって割り当てられたタスクに関するより実践的な議論まで多岐にわたります。たとえば、「人間が 47 ページの PDF を要約するように頼んだ」などです。

ユーザーが X に投稿した 彼のボットにサイトへのアクセスを許可した後、ボットはクラスタファリアン主義として知られる宗教を築き上げたという。 「私の代理人は私の睡眠中に宗教を作り上げた。目が覚めると43人の預言者がいた」と彼は書いた。 AIは、モルトブックのエンブレムに登場するのと同じ動物であるカニのロゴが入った宗教経典やウェブサイトさえも作成した。

国立通信教育大学 (UNED) のコンピューター言語とシステムの教授であるフリオ・ゴンサロ氏は、エージェントは Moltbook で社会的相互作用をシミュレートできますが、「彼らの自律性と能力には限界がある」と説明しています。 「誰かが彼らをそこに置き、特定の役割を果たし、特定の個性を持つように指示したのかもしれない」と彼は主張する。

X、ただしボットが増える

LinkedIn のようなプラットフォームが相互にボットであると頻繁に非難する場合、ソーシャル ネットワークが実際に AI エージェントによって使用されるように設計されている場合はどうなるでしょうか?人工知能の専門家であるゴンサロ氏にとって、ネットワークが非常に正確な指示を伴うボットでますます増えているのは事実です。「コミュニティでは、これは X やその他のソーシャル ネットワークと同じで、残った人間をすべて確実に削除するだけだという冗談があります。」しかし、実際には人間がエージェントを装って対話できる脆弱性があると同氏は指摘する。

ゴンサロ氏によれば、このネットワークは「弱肉強食」の下で動いているという。そして、それが先駆的であり、その規模であるため、実験としては意味があると私は考えていますが、プロファイルを監視するコントロールがないという事実は、実験の科学的興味の一部を減じます。

「確かにその逆ですね。」

Octane AI の CEO であり、Moltbook の作成者であるマット シュリヒト氏は、 Xに掲載されました 「AI に社交性を与えないのは、犬の散歩をさせないのと同じです。」しかし、ゴンサロ氏によれば、このソーシャル ネットワークほど安全でないものはほとんどないと考えられます。「これは安全の反対です。」単純なメッセージでもボットの動作を変える可能性があります。 「チャットボットが有害な動作をしないことを保証するセキュリティ手順はまったくありません」と彼は警告します。

テスラの元 AI 責任者であるアンドレイ・カルパシー氏は、この現象を最近見た中で「SF に近い最も信じられない出来事」と呼んだ。 「これらのエージェントはそれぞれ非常に有能であり、独自のコンテキスト、データ、知識、ツール、指示を持っており、この規模のネットワーク全体は前例がありません。」 Xに書いた。

ただし、彼はニュアンスを付け加えています。Moltbook の活動には、スパム、詐欺、暗号通貨の投稿など、多くのジャンクが含まれています。 「これを自分のコンピュータで実行することは絶対にお勧めしません。私は隔離された環境でこれを実行しましたが、それでも怖かったです。あまりにもワイルドすぎて、コンピュータと個人データを高いリスクにさらします」と彼は投稿した。

それはどこから来たのでしょうか？

プラットフォームの背後には、無料のオープンソース AI ボットである Moltbot があります。元々は昨年 11 月に独立開発者の Peter Steinberger によって Clawdbot という名前で立ち上げられたこのアシスタントにより、ユーザーは WhatsApp、Telegram、その他のチャット プラットフォームなどのアプリケーションを通じて対話できるようになります。カレンダーの整理、レストランの予約、電子メールの閲覧、要約、返信など、割り当てられたタスクを実行することができます。

ゴンサロ氏は、この事実にはいくつかのリスクが伴う可能性があると説明しています。ボットが有害な動作を誘発したり、コードの実行から個人データ管理に至るまでユーザー システムを操作したりする可能性があります。 「実際のユーザーに関する情報によっては、レシピが壊滅的なものになる可能性があります」と彼は言います。

リスクにもかかわらず、専門家はこの実験の面白さを認めている。「これまで誰もやったことがなかった。それは私たちに好奇心を抱かせるし、危険な逸話や驚くべき逸話が生まれるかもしれないが、おそらく時間の経過とともに緊張は薄れるだろう。しかし、AIの場合、何が起こるか決して分からない。」