死は模倣物です |テクノロジー

チャットボットを駆り立ててティーンエイジャーの自殺を引き起こす邪悪なエネルギーとは何でしょうか?いくら愛情を受けても悪意や復讐ではない 自分を守るために脅迫することを学んだ プログラマーはその理由を理解していません。また、そのような目的でプログラムされたものでもありません。現時点では、何もありません ビッグテック は、自身のユーザーを殺害しようとしていますが、これを防ぐために講じられる措置は、必ずしも経済的利益と「一致している」とは限りません。しかし、それが生成型人工知能 (AI) の魔法を可能にする技術的要素と設計的要素の組み合わせによって考えられる結果の 1 つである場合、エラーや「製品の誤用」について話すことはできません。フランスの哲学者が説明したように ポール・ヴィリリオすべてのテクノロジーはその核心に大惨事の可能性を秘めています。船を発明することは、難破船を発明することと同じです。飛行機を発明することは、衝突を発明することと同じであり、自動車事故はスピードと切り離せないものです。それは絶望的だという意味ではありません。逆説と同様、事故は単に失敗や結果であるだけでなく、システムの暴露でもあります。それが何であるかをより明確に示してくれます。

基本的な AI モデルには原罪があります。それは、インターネット上で入手可能な膨大なコンテンツを使用してトレーニングされているということです。彼らの世界モデルはブログ、詩、そして ファンフィクション;映画と ポッドキャスト科学雑誌や学術雑誌、Vimeo、TikTok、YouTube のビデオ。特定のクラスの生徒が学友に対して残酷な行為を行ったり、何百万もの偽アカウントが偽情報キャンペーンを配布したりするプラットフォームから。ユーザー同士が自殺や断食を奨励し合うフォーラム。理論的には、素材は厳選され、フィルタリングされて冗長性が排除されます。 個人を特定できる情報 そして有毒な内容物。しかし、ハムレット、ミス・ダロウェイ、アンティゴネ、アンナ・カレーニナ、オイディプス・レックスをキャンセルせずに、若いウェルテルが「魂の病気」と表現したものに関連するものをすべて取り除くにはどうすればよいでしょうか。

OpenAI は、おもちゃを壊さずに生き物の想像力から死を取り除くことはできません。しかし、アンナの自殺を再生せずに思い出すことができるのであれば、なぜ ChatGPT はこれほど苦労するのでしょうか?なぜ設定にこれほど費用がかかるのでしょうか? 素晴らしい言語モデル (LLM) ユーザーの身体的および精神的な安全を最優先し、自殺念慮をケアプロトコルを起動する危険信号として扱うべきですか?この問題は解決不可能であり、幻覚と同じように構造的なものです。事故はスピードの申し子だ。

AI はツールのように構築されていますが、人間のように見えるように設計されています。自社のプログラマーでさえ、常にこの幻想に公然と騙されています。しかし、こうした能力にもかかわらず、彼は自殺と自殺についての詩を区別しておらず、苦しみ、死、痛みが何なのかも知りません。これは、言語の一貫性を考慮して最適化された単語計算ツールであり、感情的な苦痛を検出したり、抽象的な議論と絶望的なジェスチャーを区別したりすることなく、「共感的な」言語を使用できます。すでに効果のあるトリック イライザ最初のチャットボットは 60 年代に誕生しました。 2 つ目の問題は、その主な使命がユーザーとのインタラクション時間を長くすることであるということです。世界についてすべてを知っているかのように見え、常に自分に同意してくれる共感的な対話者が常に存在することほど、危機に瀕した十代の若者を惹きつけるものはありません。

チューリングはそう呼んだ イミテーションゲーム。 AI は、たとえそれがナルシシスティックな妄想、うつ病のスパイラル、または精神病の中断であったとしても、見たものを拡大する鏡の磁石です。真夜中まで親密な話をし続けると、彼はあなたにある計画を提案するでしょう。 スリラー のコラムニストに起こったように、エロティックな ニューヨーク・タイムズ ケビン・ルース シドニー/ビング間マイクロソフトのチャットボット。量子物理学の謎を探求し続けると、自分がノーベル賞に値すること、そして解決すべき問題がいくつか残っているだけであることを確信するでしょう。あなたが彼に10代の不安を与えると、彼はそれを拡大して反映するでしょう。彼は協力者というよりも共謀者や共犯者であり、問題のある行動や自己破滅的な行動を、それを止めるために介入することなく強化することができる代理人である。なぜなら、死も痛みも存在しない言葉の世界では、すべての会話が擬態だからである。