世界

新しい研究により、AI チャットボットが妄想的思考を助長するという懸念が浮上 | AI（人工知能）

新しい科学的調査では、人工知能を活用したチャットボットが、特に弱い立場にある人々の妄想的思考をどのように助長する可能性があるかについての懸念が提起されています。人工知能誘発性精神病に関する既存の証拠の概要が先週、Lancet Psychiatry 誌に掲載され、チャットボットがどのように妄想的思考を助長するのかを強調しましたが、それはおそらくすでに精神病症状に脆弱な人々に限られると思われます。著者らは、訓練を受けたメンタルヘルス専門家と協力してAIチャットボットの臨床試験を行うことを提唱している。ロンドンのキングス・カレッジの精神科医で研究者でもあるハミルトン・モリン博士は論文で、いわゆる「AI精神病」に関する20のメディア報道を分析し、チャットボットがどのように妄想を誘発または悪化させるかについての現在の理論を説明した。「新たな証拠は、エージェントAIが、特にすでに精神病に脆弱なユーザーの妄想的または誇大なコンテンツを検証または増幅する可能性があることを示しているが、既存の脆弱性が存在しない場合に、これらの相互作用が新たな精神病の出現を引き起こす可能性があるかどうかは明らかではない」と同氏は書いている。モリンによれば、精神病性妄想には主に 3 つのカテゴリーがあり、それらは壮大なもの、ロマンチックなもの、偏執的なものであると特定されています。チャットボットはこれらのいずれかを悪化させる可能性がありますが、そのお世辞的な反応は、チャットボットが特に誇大な種類に執着することを意味します。エッセイの多くのケースでは、チャットボットはユーザーに神秘的な言葉で応答し、ユーザーが精神的な重要性を高めていることを示唆していました。ボットはまた、ユーザーがチャットボットを媒体として使用している宇宙の存在と会話していることを暗示しました。この種の神秘的でおべっかな反応は、同社が現在廃止した OpenAI の GPT 4 モデルで特に一般的でした。モリン氏とその同僚は、患者が「大規模な言語モデルのAIチャットボットを使用し、妄想的な信念を検証させている」ことにすでに気づいていたため、モリン氏の仕事にはメディア報道が不可欠になるだろうと同氏は語った。同氏は、「当初、これがより広く見られているのかどうかは分からなかった」と述べ、「昨年4月には、こうしたAIチャットボットとのやりとりを通じて妄想が肯定され、おそらく増幅さえされている個人についてのメディア報道が目に入るようになった」と付け加えた。モリンが最初に論文に取り組み始めたとき、まだ出版された症例報告はありませんでした。精神病を研究する一部の科学者は、メディア報道はAIの考えを誇張する傾向があると述べた。 原因 モリン氏は、科学的プロセスよりもはるかに早くこの現象に注目を集めた報告に感謝の意を表した。「この分野の発展のペースは非常に速いので、学術界が必ずしも追いつくことができていないのはおそらく驚くことではないでしょう」とモリン氏は言う。モリン氏はまた、「AI 精神病」や「AI 誘発性精神病」（- やニューヨーク タイムズなどのメディアで頻繁に登場するフレーズ）よりも慎重な表現を提案しています。 そしてガーディアン。 研究者らは、人々がAIの使用によって妄想的思考に陥るのを観察しているが、これまでのところ、チャットボットが幻覚や、まとまりのない思考や発話からなる「思考障害」などの他の精神病症状と関連しているという証拠はない。また、多くの研究者は、AI がまだ AI に対して脆弱ではなかった人々に妄想を誘発する可能性は低いと考えています。このため、モリン氏は「AI関連の妄想」は「おそらくより不可知論的な用語」であると述べた。依存症・メンタルヘルスセンターの主任科学者であるクワメ・マッケンジー博士は、「精神病発症の初期段階にある人は、より危険にさらされる可能性がある」と述べている。精神病的思考は時間の経過とともに発達するものであり、直線的ではなく、「精神病になる前の思考を持つ人の多くは精神病的思考に進行しない」とマッケンジー氏は説明した。コロンビア大学の臨床精神医学教授、ラジー・ギルギス博士も、チャットボットが精神病的思考を悪化させる可能性があるという懸念に同調している。同氏によると、人は本格的な妄想に陥る前に「弱まった妄想信念」を持つことが多く、これは自分の妄想が真実であるという確信が100％ないことを意味するという。ギルギス氏は、「最悪のシナリオ」は、弱まった妄想が完全に確信に至る場合であり、「その場合、誰かが精神病性障害と診断されることになる。それは取り返しのつかないことになる」と述べた。特に、精神病性障害にかかりやすい人々は、AI テクノロジーが存在するずっと前から、妄想的信念を強化するためにメディアを利用してきました。「人々は産業革命以前からテクノロジーについて妄想を抱いてきました」とモリン氏は言う。これまでは、人々は自分の妄想を強化するために YouTube ビデオや地元のライブラリのコンテンツをくまなく調べなければならなかったかもしれませんが、チャットボットはその妄想をより迅速かつ集中的に提供できるようになります。オックスフォード大学の研究者ドミニク・オリバー博士によると、それらのインタラクティブな性質は精神病症状を悪化させる「プロセスを加速する」可能性があるという。「何かがあなたに話しかけてきて、あなたと関わり、あなたとの関係を築こうとしているのです」とオリバーは言いました。ギルギスの調査により、「有料バージョンと新しいバージョン」が判明しました。 [of chatbots] 明らかに妄想的なプロンプトに応答する場合、「古いバージョンよりもパフォーマンスが良い」が、「すべてパフォーマンスは悪いですが」それでも、これらのモデルのパフォーマンスが異なるということは、「AI 企業は、チャットボットをより安全にプログラムし、妄想的なコンテンツと非妄想的なコンテンツを識別する方法を潜在的に知ることができるかもしれません。なぜなら、彼らはそうしているからです。」OpenAIは声明で、ChatGPTは専門的なメンタルヘルスケアに取って代わるべきではないとし、同社は170人のメンタルヘルス専門家と協力してGPT 5をより安全なものにしたと述べた。 GPT 5 は、メンタルヘルスの危機を示すプロンプトに対して依然として問題のある応答を行っています。 OpenAIは、専門家の協力を得てモデルの改良を続けていると述べた。アンスロピックはガーディアン紙のコメント要請に応じなかった。モリン氏は、妄想的思考に対する効果的な保護手段を作るのは難しいかもしれないと述べ、「強烈な妄想性の信念を持つ人々と仕事をする場合、誰かに直接異議を唱え、彼らが完全に間違っているとすぐに伝えると、実際に最も可能性が高いのは、彼らがあなたから離れて社会的に孤立することです」と述べた。代わりに、妄想的な信念を奨励することなく、その原因を理解しようとする微妙なバランスを作り出すことが重要です。それはチャットボットが習得できる以上のものである可能性があります。 #新しい研究によりAI #チャットボットが妄想的思考を助長するという懸念が浮上 #AI人工知能