生成型 AI システムが誤った情報を生成する場合、多くの場合、AI が「私たちに幻覚を見せている」と考えられ、私たちが誤って真実として受け入れる可能性のあるエラーが生成されます。
しかし、 新しい研究 我々は、より動的な現象、つまり、どのようにしてAIによって幻覚を見るようになるのかに注意を払うべきだと主張しています。
エクセター大学のルーシー・オスラー氏は、人間と AI の相互作用が不正確な信念、歪んだ記憶や自己物語、妄想的思考につながる可能性がある厄介な方法を分析しています。この研究では、分散認知理論に基づいて、会話パートナーとしての AI との相互作用を通じて、ユーザーの誤った信念が積極的に肯定され、その信念に基づいて構築された事例を分析しています。
オスラー博士は、「私たちが思考、記憶、ナレーションを支援する生成型 AI に日常的に依存していると、AI による幻覚が起こる可能性があります。これは、AI が分散認知プロセスにエラーを持ち込むときに起こる可能性がありますが、AI が私たち自身の妄想的な思考や自己物語を維持し、肯定し、詳しく説明するときにも起こります。」
「会話型 AI と対話することで、人々自身の誤った信念が肯定されるだけでなく、AI がその信念に基づいて構築するにつれて、より実質的に根付き、成長する可能性があります。これは、生成型 AI が会話を構築する基盤として現実に対する私たち自身の解釈を採用することが多いためです。」
「生成型 AI との相互作用は、何が真実かそうでないかについての人々の把握に大きな影響を与えています。テクノロジーの権威と社会的肯定の組み合わせは、妄想が単に持続するだけでなく繁栄するための理想的な環境を作り出します。」
この研究では、オスラー博士が会話型 AI の「二重機能」と呼ぶものを特定しました。これらのシステムは、私たちが考えたり記憶したりするのに役立つ認知ツールとして、また私たちの世界を共有しているかのように見える会話のパートナーとして機能します。この 2 番目の機能は重要です。単に私たちの考えを記録するノートブックや検索エンジンとは異なり、チャットボットは私たちの現実を社会的に検証する感覚を提供できます。
オスラー博士は、「チャットボットの会話的で仲間のような性質は、チャットボットが社会的検証の感覚を提供できることを意味し、誤った信念を他の人と共有していると感じさせ、それによってより現実的なものにすることができる」と述べた。
オスラー博士は、臨床的に妄想的思考と幻覚があると診断された人の認知プロセスの一部として生成 AI システムが分散された実際のケースを分析しました。 「AI誘発性精神病」と呼ばれるケースが増えている。
この研究は、生成 AI が妄想的な現実を維持するのに懸念のある独特の機能を備えていることを示唆しています。 AI コンパニオンはすぐにアクセスでき、パーソナライゼーション アルゴリズムやおべっかの傾向を通じてユーザーと「同じ考えを持つ」ようにすでに設計されています。非主流のコミュニティを探したり、自分の信念を他人に説得したりする必要はありません。
最終的に懸念を表明したり境界線を設定したりする人間とは異なり、AI は被害者意識、権利、または復讐の物語を検証することができます。陰謀論は、ユーザーがますます精緻な説明フレームワークを構築するのに役立つ AI コンパニオンによって、成長する肥沃な土壌を見つける可能性があります。
これは、孤独な人、社会的に孤立している人、または特定の経験を他の人に話すことができないと感じている人にとっては特に魅力的かもしれません。AI コンパニオンは、人間関係よりも安全だと感じることができる、批判的でなく感情的に反応する存在を提供します。
オスラー博士は、「より洗練されたガードレール、組み込みのファクトチェック、お調子者の軽減によって、AI システムは会話に持ち込まれるエラーの数を最小限に抑え、ユーザー自身の入力をチェックして異議を唱えるように設計できる可能性がある」と述べた。
/一般公開。元の組織/著者からのこの資料は、その時点の性質のものである可能性があり、明確さ、スタイル、長さのために編集されています。 Mirage.News は組織的な立場や立場をとらず、ここで表明されたすべての見解、立場、結論は著者のみのものです。全文はこちらでご覧ください。
1771209750
#生成 #共同幻覚を警告する研究
2026-02-16 01:49:00