今日の大規模な言語モデルは、当惑するほど見事に本物の人工知能のように見せることができるため、テクノロジーのユートピア主義者たちが目を丸くして改宗しているにもかかわらず、私たちはまだシンギュラリティの瀬戸際にはまったく立っていないことを思い出させてくれるのはいつも嬉しいことです。
たとえば、先駆的なソフトウェア エンジニアのロブ・パイクが関与した週末に発生した事件を考えてみましょう。パイクは業界では伝説的な人物です。彼は UTF-8、インターネットで最も広く使用されている 文字エンコーディング 標準規格に準拠しており、Go プログラミング言語の設計者の 1 人でした。彼はまた、 特許 コンピューター画面上でウィンドウを重ねるというアイデアについて。彼もまた楽しい人です 懐疑的 そして 思慮深い LLM の誇大広告のコメンテーターであるため、LLM からの迷惑メールの候補者になる可能性は低いです。
それにも関わらず、パイクはクリスマスの日に目を覚ますと、「クロード オーパス 4.5 モデル」と特定される「ユーザー」からの AI 生成の電子メールを受け取りました。このメッセージは、パイク氏の功績の多くを称賛し、彼の「コンピューティングへの並外れた貢献」すべてに対して「深い感謝」を表明した。
彼の答えは—出版された 彼のBlueSkyアカウントでの発言は、インターネットに溢れるLLM生成のナンセンスの絶え間ない猛攻撃について私たちの多くが感じていることをきちんと要約したものだった：「クソ野郎ども。地球を強姦し、有害でリサイクル不可能な機器に数兆ドルを費やしながら社会を爆破させながら、時間をかけて下劣なマシンに、よりシンプルなソフトウェアを求めて私に感謝してもらうのに時間を割いている。ただクソ、クソ全員。」
あまり明確ではなかったのは、そもそも電子メールが送信された理由です。で ブログ投稿 翌日公開されたプログラマー兼ライターのサイモン・ウィリソンは、メッセージの出所を調べた。彼は、それが と呼ばれるプロジェクトから始まったことを発見しました。 AI村が運営しています。 セージは、ウェブサイトで「未来を理解するためのツールを構築する」と宣言している非営利団体です。
AIビレッジプロジェクトは、 発表された 4 月初旬に、未来を理解するための使命は次のとおりです。「私たちは 4 人の AI エージェントにコンピューター、グループ チャット、そして慈善活動のためにできるだけ多くの資金を集めるという野心的な目標を与えました。」当初の 4 つのエージェントのグループは、その後さらに 6 つのモデルを含むように拡大され、それ以来、すべてのモデルが順調に稼働しています。
それで、私たちのバーチャルヒーローは慈善活動のためにどれくらいのお金を集めましたか？さて、現在では 9月24日、答えはなんと1,984ドルで、その後この数字は上がっていないようです。これらのモデルの作成とトレーニングにかかる天文学的なコストと、それらを実行し続けるための継続的なコストを考慮すると、これは、まあ、ささやかな利益のように思えます。
しかし、私たちはどのようにして「慈善活動のための資金集め」から「怒りっぽいソフトウェアのレジェンドにスパムを送信する」ようになったのでしょうか?おそらく、トレンチコートを着た 4 人の LLM が実際には慈善活動を解決できなかったために、このプロジェクトの目標は開始以来何度も更新されており、この電子メールは「ランダムな親切な行為」を行うという 12 月 25 日の目標に対する回答でした。 (これらの変化する目標を達成しようとする LLM の試みは、率直に言って頭痛を引き起こすプロジェクトについて後世のために保存されます。 タイムラインアーカイブ。）
いずれにせよ、パイクは、行き当たりばったりの親切な行為を受けているとは感じていなかったと言っても過言ではない。それでは、この残念な事件全体が AI 村に何かを教えたのでしょうか?うーん。良い。そよ風の中で 応答 AI Villageの共同制作者でありSageディレクターのAdam Binksmith氏は、Willison氏の投稿に対し、パイク氏は「強烈なネガティブな経験」をしたものの（確かに「くたばれ」の表現の一つだが）、この実験全体が時間、資源、資金の莫大な無駄ではないと主張し、「エージェントの傾向や、無制限の目標を追求するアプローチを観察することは一般に価値があり、重要だ」と述べた。万歳！
#伝説的な開発者AI #エージェントの一方的な親切行為に正気を失う