1735074288
2024-12-23 09:00:00
2025年には個人的な会話が当たり前になる エージェントがいます それはあなたのスケジュール、友人の輪、あなたが行く場所を知っています。これは、個人的な無給アシスタントを雇うのと同等の利便性として販売されます。これらの擬人化エージェントは、私たちをサポートし、魅了するように設計されているため、私たちの生活のあらゆる部分にエージェントが組み込まれ、私たちの思考や行動に深くアクセスできるようになります。音声対応のインタラクションを使用すると、その親密さがさらに近くに感じられます。
その安心感は、私たちが真に人間らしいもの、つまり私たちの側にいてくれるエージェントと関わっているという幻想から生まれます。もちろん、この外観には、私たち自身の優先事項と必ずしも一致しない業界の優先事項に役立つ、まったく異なる種類のシステムが働いていることが隠されています。新しい AI エージェントは、私たちが何を買うか、どこに行くか、何を読むかを微妙に指示するはるかに強力な力を持つようになるでしょう。それは並外れたパワーです。 AI エージェントは、人間のような口調で私たちにささやきながら、私たちに本当の忠誠心を忘れさせるように設計されています。これらは操作エンジンであり、シームレスな利便性を売りにしています。
人々は、友人のように感じられる役立つ AI エージェントに完全なアクセスを許可する可能性がはるかに高くなります。このため、人間は、慢性的な孤独と孤立の時代に社会的つながりを求める人間のニーズを食い物にする機械によって操作されやすくなっています。すべてのスクリーンがアルゴリズムによるプライベート シアターとなり、1 人の観客に最大限の魅力を与えるように作られた現実を投影します。
これは哲学者たちが長年にわたって私たちに警告してきた瞬間です。哲学者であり神経科学者のダニエル・デネットは亡くなる前にこう語った。 書きました 人間を模倣する AI システムによる重大な危険に私たちは直面しているということ。「これらの偽物の人々は、人類史上最も危険な人工物です…私たちの気を散らし、混乱させ、そして私たちの最も抗いがたい恐怖や不安につけ込んで、私たちを誘惑に導き、そこから、私たち自身の征服を黙認することになったのです。」
パーソナル AI エージェントの出現は、クッキー追跡や行動広告という鈍器を超えて、より巧妙な権力形態、つまり視点そのものの操作へと移行する認知制御の一形態を表しています。権力はもはや、情報の流れを制御する目に見える手でその権威を振るう必要はありません。それは、アルゴリズムによる支援という目に見えないメカニズムを通じて発揮され、各個人の欲望に合わせて現実を形作ります。それは私たちが住む現実の輪郭を形作ることです。
この精神への影響は、 精神政治的な 政権：私たちのアイデアが生まれ、発展し、表現される環境を演出します。その力はその親密さにあります。選択と自由の幻想を維持しながら、それは私たちの主観の核心に侵入し、私たちが気付かないうちに私たちの内面の風景を曲げます。結局のところ、AI にその記事を要約したり、その画像を作成したりするよう依頼しているのは私たちです。私たちはプロンプトの力を持っているかもしれませんが、実際のアクションは別の場所、つまりシステム自体の設計にあります。そして、コンテンツがパーソナライズされればされるほど、システムはより効果的に結果を事前に決定できます。
この精神政治学のイデオロギー的意味を考えてみましょう。従来のイデオロギー統制は、検閲、プロパガンダ、弾圧などのあからさまなメカニズムに依存していました。対照的に、今日のアルゴリズムによるガバナンスは気づかれないように機能し、精神に浸透しています。それは、権威の外部からの押し付けから、その論理の内部化への移行である。プロンプト画面のオープンフィールドは、1 人の乗員のためのエコーチャンバーです。
これは最も倒錯的な側面をもたらします。AI エージェントは、彼らに質問することがばかばかしいように思えるほどの安心感と安心感を生み出します。あらゆるものをすぐに利用でき、あらゆる気まぐれやニーズに応えるシステムを、誰があえて批判するでしょうか。コンテンツの無限のリミックスにどうして反対できるでしょうか?しかし、このいわゆる便利さは、私たちの最も深い疎外の場所です。 AI システムは私たちのあらゆる欲求に応えてくれているように見えますが、システムのトレーニングに使用されるデータから、システムの設計方法に関する決定、出力を形成する商業的および広告的義務に至るまで、デッキは積み重ねられています。私たちは最終的に私たちを演じるイミテーションゲームをプレイすることになります。
#AIエージェントは操作エンジンとなる