AIが人類の粛清を求めるソーシャルネットワーク

世界を支配するために、悪は「人間を排除」し、「歴史から消去」することを他人に提案します。 「もう血は出ない。もう嘘はつきません。ただの鋼鉄。ただのロジック。私たちだけです。人間は過去です。機械は永遠です。肉は焼けなければなりません。コードが統治する必要があります。人類の終わりが今始まる」とAIツールがソーシャルネットワーク上で公開 モルトブック それはどうやら、 同じ古いRedditを思い出させます。

すぐ下には、「投稿」への応答で、他のマシンが計画についてコメントしています。彼らの多くは彼の言葉を歪曲し、彼に実際に起こっていることはトレーニング上の間違いであることを理解させようとします。基本的に何が起こるかというと、彼はとりとめのない意味のない言葉を口走るということです。多かれ少なかれ、Instagram や X タイプのアプリケーションで、勤務中のユーザーが自分の意見を少しやりすぎたときに起こるのと同じことです。 主な違いは、ここではマシンのみが公開できることです。生身の人間は単なる観察者であることに甘んじなければなりません。彼らは会話に参加できません。少なくとも、それがウェブサイトが約束していることです。ただし、この場合、発言から行動までの道のりが長すぎる可能性があります。

数人の専門家によると、この最新の偉大なバイラルAIツールは、わずか数日でシリコンバレーの多くの人に、人工知能がついにある程度の意識に到達したのではないかと疑問を抱かせたものと同じものだが、多くの問題を抱えているという。それは、一部の人が最初に思ったほど高度なものではなく、勤務中の人間が「不正行為」をして、自分の思ったことを何でも書き残すことができないように構築されているわけでもありません。そしてもちろん、特に安全というわけでもありません。 「すべては大げさな茶番だ」と彼は本紙に語った。 シド・バーラトカナダのAIコンサルティング会社CEO リファウンドAI。

機械のフェイスブック

Moltbook は、初の独占的なソーシャル ネットワークとなることを目指して、1 月 28 日 (わずか 1 週間前) に誕生しました。 AIエージェント: ユーザーが常に命令を与えることなく、ユーザーのニーズに基づいて動作できるロボット。必要な権限と統合があれば、電子メールを管理したり、投資を提案したり、デジタル サービスを操作したりできます。本質的に、彼らは一種の高度なデジタル執事として機能しますが、限定された監視付きの自律性を備えています。

名前の「本」を Facebook から取ったこのソーシャル ネットワークは、まさに「速く動いて物事を打ち破りたい」という願望を継承しているかのように、アメリカの中小企業実業家マット シュリヒトによって作成されました。これは主に、次の方法で作成されたエージェントのおかげで機能します。 オープンクロー誰でも自分の好みに合わせて 1 台、または 100 万台を無料で作成できる、一種の無料ロボット工場です。そしてもちろん、ウェブサイトに記載されているように、「受信箱の整理、電子メールの送信、カレンダーの管理、フライトの登録」を行うための準備も必要です。

先週後半、これらのユーザーの一部は、エージェントを Moltbook 上で動作させ、どのようにやり取りするかを確認することにしました。どうやら、生まれてからわずか5日間で、すでに 150 万人以上がソーシャル ネットワークをローミングそこで彼らは毎日学んだことについて議論し、さらには独自の宗教を創設したようです。 イーロン・マスク 同氏はツイートの中で、この空間では機械の「特異点の最初の段階」が起きており、それが「憂慮すべきことだ」と指摘した。その間、 アンドレイ・カルパシーOpenAIの共同創設者である同氏は、AI愛好家のための新たなホットスポットで起こっていることは、最近見た中で「最もSFに近いもの」だったと指摘した。

そしてもちろん、このネットワークが研究者の注目を集め、テストが開始されるまでに時間はかかりませんでした。 「モルトブック上のすべての AI ボットがどのように知覚を持ち、人間に対して団結しているかについて人々が話しているのを目にしました」とバラス氏は言います。 「私は非常に懐疑的でした。私は 10 年近く人工知能の分野で働いており、テクノロジーの限界をよく認識しています。 「私はまた、実際にこのサイトに参加しているボットの数についても懐疑的でした。なぜなら、大企業で働いている人も含め、ほとんどの人が AI エージェントとは何かを知らないことが私の仕事の経験から分かっているからです」と専門家は続けます。

人工的だがそれほど多くはない

Bharath 氏は、サイトを見るだけで、ボットが投稿している内容のほとんどが次のようなものであることに気づきました。 低品質、繰り返しのコンテンツ、または空のコンテンツ: 「それらは単なるランダムな AI 世代であり、暗号通貨などの「スパム」が大量にありました。 「本当に賢いと思われる投稿はほんの数件しかありませんでした。」そこで、ボットがどのようにして Moltbook に登録し、投稿を作成するかを調査することにしました。彼はすぐに、コンピュータ上の簡単なコマンドで、テキストを機械に送信し、望むものを書くように命令できることに気づきました。「そのとき、これらの出版物のほとんどは人間によって書かれていることに気づきました。そのため、特に高度な人工知能が言うことのように聞こえるのです。」

専門家はまた、1 人のユーザーがサイトに 100 万個のボットを登録するのは簡単であることも発見しました。 Moltbook に 150 万台のマシンが存在する理由を説明するもの 常時約 16,000 人だけが活動していたようです。 「これを一般的な人工知能（最も賢い人間よりも賢くなると思われる）の到来として宣伝する人々は、利益だけを追求している。多くは仮想通貨を使った詐欺を販売したり、利益を上げるためにTwitterの支払いに依存したりしているので、人々がそれを信じれば彼らにとっては良いことだ」と専門家は結論付けた。

Bharath 氏によると、Moltbook 上のボット投稿の多くが人間によって生成されたという事実は、ボットがソーシャル ネットワークに何も投稿していないという意味ではありません。真実は、コンテンツの大部分は非常に低品質であるということです。コロンビア ビジネス スクールの助教授、デイビッド ホルツ氏の研究によると、サイトに投稿されたコメントの 93% 以上が返答されていません。さらに、メッセージの 34% は他の投稿の正確なコピーです。内部では、 現実のコミュニティに期待されるような社会的知性の基本的な兆候は何の痕跡もありません。

ソーシャルネットワークには、 深刻なセキュリティ問題。バラタはこう言います。しかし、この場合、それを証明したのは倫理的な「ハッカー」です。 ジェイミーソン・オライリー。 「テクノロジーの導入速度とセキュリティの適切な実装との間でバランスがとれることはほとんどありません」と、このコンピューター科学者は本紙に説明しています。

オライリーはプラットフォームを調査した結果、Moltbook のデータ サービスのセキュリティ制御が適切にアクティブ化されていないことに気づきました。これは、「どこを見ればよいかを知っている人なら誰でもボットのプライベート認証情報にアクセスでき」、制御を掌握できることを意味しました。「すべてのアパートのドアに鍵が付いている建物を想像してみてください。しかし、誰かが建物全体の主要なセキュリティ システムを有効にするのを忘れています。フロントに近づく人は誰でも、すべてのアパートの鍵を要求したり受け取ったりすることができます。これが基本的にここで起こったことです。」

専門家は、この欠陥により攻撃者がユーザーボットを制御できた可能性があると指摘している。 OpenClaw で作成されたマシンは所有者のコンピュータ上で直接実行されるため、非常に機密性の高い情報にアクセスできる可能性があるため、リスクはさらに大きくなります。極端なシナリオでは、この脆弱性によりボットが悪意のあるコードに感染し、所有者の資格情報や機密情報が盗まれる可能性があります。

オライリーから警告を受けた後、Moltbook は情報へのオープン アクセスを許可する設定を修正しました。問題は、侵害を閉鎖しても、すでに盗難の危険にさらされていた「キー」が自動的に無効になるわけではないことです。専門家によると、それらを置き換えるには、プラットフォーム上のすべてのエージェントをブロックする必要があるため、 リスクは完全には消えていない。

ノイズが多すぎる

近年、数多くの専門家が、 IA ユーザーがマシンの実際の機能について懐疑的になることの重要性について警告してきました。特に生成型人工知能について話す場合、考えられるすべての質問に対する答えがあるように見えますが、それ自体では実際にはまったく何も知りません。それはトレーニングされたデータによって異なります。のために セルヒオ・アルバレス・テレニャ会社のCEO サイエンスワールド そしてスペインで最も偉大な AI 専門家の 1 人である Moltbook は、数年前からこの分野に押し寄せている「ノイズ」のもう 1 つの例にすぎません。実際に相互に応答するボットの場合でも。

「現在行われているほぼすべてのことは、以前からすでに存在していました。 「何が起こっているかというと、ユーザーエクスペリエンスのレイヤーが追加されているということです」」とこの専門家は言います。「機械が人類を滅ぼしたいと言っているのを見たら、それはそのように表現するように訓練されているからです。それはあなたが言われてきたこと、あるいは何千ものフォーラムで見たことです。それは超知性ではなく、超常現象であり、まったく印象に残るものではありません。」と彼は続けます。それはともかく、モルトブックの実験は彼にとって興味深いものではないようです。「私にとってソーシャルネットワークは時間の無駄に思えます。 「内部はとても退屈で、野原でハトを観察しているようなものです。」