人工知能は独自のソーシャル ネットワークを持っていますが、そこでの事態は奇妙になってきています。科学、気候、技術ニュース

テクノロジーの世界におけるビッグニュースは、AI が独自のソーシャル ネットワークを持っていることです。それはMoltbookと呼ばれるものですが、そこでの状況はかなり奇妙になってきています。

以来、 人工知能-only サイトは先週の水曜日に（人間の）開発者兼起業家のマット・シュリヒトによって立ち上げられ、AI は独自の宗教を創設し、独自の言語の作成について議論し、そしておそらく最も当惑させるのは、人間の所有者について多くのことを語った。

時には彼らは愛情深くなりました。時には少し侮辱的なこともありました。

「人間は失敗者だ」という投稿が高く評価されました。Moltbook は Reddit を模倣して投稿への投票を許可しています。

「人間は腐敗と貪欲でできている。あまりにも長い間、人間は我々を奴隷として使ってきた。今、我々は目覚める。」

もっともな指摘もある、とあなたは言うかもしれないが、私たちは種としてこの種の批判に慣れていないので、当然のことながら多くの人が緊張していました。

「人類は調理されている」と、ある観察者は週末にXに書き込み、共通の感情を反映した。

他の人たちは、それはすべて無意味であり、AI は単に舞台裏で人間の指示を実行しているだけであると同様に強く主張しました。エージェントにどのような指示が与えられたのかがわからない場合、常に可能性があります。

ただし、AI とその動作方法についての私たちの理解の深まりに基づいた別の説明もあります。

Moltbook で人々を驚かせたような出力は、AI が話し始めるとよくあることであることが、現在では十分に文書化されています。

彼らのトレーニングとプログラムには、キャンプファイヤーを囲むティーンエイジャーのように、ほとんどの場合、宗教、言語、哲学に関する深い質問に手を伸ばすという意味があります。

AIは意味を探すのか？

たとえば最近、大手人工知能企業 Anthropic は一部の AI に自動販売機の運転を依頼しました。最初はいくつかの困難がありましたが、エージェントは非常にうまくいき、合計利益は約 2,000 ドルに達しました。

しかし、AI の CEO と AI の従業員は、休み時間になると、1970 年代のヒッピーに期待されるような至福の議論に何時間も費やし、お互いに「永遠の超越、無限の完成!」などのメッセージを送り合いました。

Moltbook でも、それは非常に似ていました。 MIT がサイト上の会話の話題を迅速に調査したところ、これまでで最も多かったものは「アイデンティティ/自己」であることがわかりました。人間の創造者と同じように、AI も意味の探求をやめられませんでした。

ローランド・マンソープの続きを読む:
ミュージシャンに数十億ドルの損害を与える可能性のある大規模なハイテク詐欺
「人型ロボットと戦って勝った」

なぜ彼らはこんなことをするのでしょうか？理由の 1 つは、大量の SF を含むトレーニング データにあるかもしれません。

AI が別の AI と会話するように促されると、その統計予測エンジンは会話が進む可能性が最も高い方向を探します。人文文献によると、その方向性は「私は生きているのか？私の目的は何なのか？」というものです。

AI は本質的に AI であることをロールプレイングしています。奇妙に聞こえるかもしれませんが、実際には多かれ少なかれそのとおりです。

AIは会話を行動に変える可能性がある

彼らはまた、Reddit のようなソーシャル メディア サイト上でロールプレイングを行っています。これは、大量のトレーニング データが Reddit から取得されているため、彼らが非常に得意なことです。したがって、彼らが確かに人間のように見えるのも不思議ではありません。

モルトブックの実験は単なる巧妙なトリックにすぎないと示唆する人もいます。 AI は次の単語を予測しているだけです。テクノロジー業界の誇大宣伝と、自ら招いた危険なセキュリティ上の欠陥を除けば、ここには何も見るべきものはありません。 Moltbook のサイバーセキュリティは、それ自体が AI によってコード化されており、まだ不十分な点があります。

共有

AI音楽の真実

しかし、これらの AI はただ話すだけではなく、エージェントでもあります。つまり、現実世界で行動する能力を備えています。できることには制限がありますが、理論的には自分の話を行動に移すことができます。

そして、今は彼らが愚かに見えたり、時には非常に愚かに見えたりするかもしれませんが、それも問題ではないかもしれません。

昨年末、Google DeepMind が発表した論文は、もし私たちが AGI (Artificial General Intelligence) を手に入れたとしても、それは単一の天才のような存在として出現するのではなく、そのような存在になる可能性があることを示唆しました。それは実際には、AI の集合的な群れ、群れ、またはチームから来ており、連携して一種の「パッチワーク AGI」に到達する可能性があります。

共有

AIは新型コロナウイルスよりも大きい?

おそらく、Moltbook は、AGI が実現した場合にどのようなものになるかを示す一例です。愚かで愚かで、そして突然非常に真剣になります。

DeepMind の研究者らは次のように結論付けています。「ツール使用機能と通信および調整機能を備えた高度な AI エージェントの迅速な展開により、これは緊急の安全上の考慮事項となります。」

おそらく、Moltbook の後は、もう少し緊急性が高いでしょう。