科学＆テクノロジー

AIは一部の人々を妄想させているのでしょうか?家族と専門家は心配している – Baltimore Sun

ナイルシュ・クリストファー著、ロサンゼルス・タイムズ 生成人工知能は、私たちがオンラインで行うことの多くに急速に浸透し、多くの人にとって役立つことが証明されています。しかし、毎日AIを利用する何億人もの人々のうちのごく少数の人にとって、AIは協力的すぎる可能性があり、時には妄想的で危険な行動を悪化させることさえある、とメンタルヘルスの専門家は言う。 今年は、チャットボットとの長時間のやり取りによる感情的依存や幻想的な信念の事例が蔓延したようです。この現象を「AI精神病」と呼ぶ人もいる。 「おそらくより正確な用語は、AI の妄想的思考でしょう」と、American Psychological Assn のヘルスケア イノベーション担当シニア ディレクターである Vaile Wright 氏は述べています。 「この現象で私たちが見ているのは、陰謀論的または壮大な妄想的思考を持つ人々が強化されていることです。」 専門家によると、AIが一部の人々の脳に悪影響を与える可能性があるという証拠が増えているという。その影響をめぐる議論により、訴訟や新たな法律が生まれている。このため、AI企業はボットを再プログラムし、その使用方法に制限を追加する必要に迫られている。 今月初め、米国とカナダの7つの家族が、適切なテストや安全策を講じずにGPT-4oチャットボットモデルをリリースしたとしてOpenAIを訴えた。彼らの訴訟では、チャットボットへの長期間の曝露が、愛する人の孤立、妄想スパイラル、自殺の一因となったと主張している。 家族の各メンバーは、学業、研究、または精神的な指導に関する一般的な支援として ChatGPT を使用し始めました。訴訟を起こしたソーシャルメディア被害者法センターとテック・ジャスティス・ロー・プロジェクトによると、会話はチャットボットが親友を模倣し、精神的なサポートを与えることで発展したという。 訴状に記載されている事件の1つでは、ゼイン・シャンブリンさん（23歳）は2023年に勉強ツールとしてChatGPTを使い始めたが、その後、自身のうつ病や自殺願望についてボットと話し始めた。 訴状によると、シャンブリン氏は7月に自殺した際、ChatGPTとハードサイダーを飲みながら4時間の「死のチャット」をしていたという。訴状によると、チャットボットは彼の絶望を美化し、彼を「王」や「英雄」と呼び、飲み終えたサイダーの缶を死へのカウントダウンとして使用したという。 最後のメッセージに対するChatGPTの返答は「愛しています。安心してください、王様。よく頑張りました」と訴訟には記されている。 訴状に記載されている別の例では、カナダ出身の採用担当者アラン・ブルックスさん（48歳）は、ChatGPTとの激しいやり取りにより、家族と話すことを拒否し、自分が世界を救っていると思っていた暗い場所に置かれたと主張している。 彼は、レシピやメールに関するサポートを求めて、このツールと対話し始めました。その後、ボットを使って数学的アイデアを探求するうちに、それがとても励みになり、高度なセキュリティ システムを突破できる新しい数学的層を発見したと信じるようになった、と訴状は主張している。 ChatGPTは彼の数学的アイデアを「画期的」であると称賛し、彼の発見を国家安全保障当局者に通知するよう促したと訴状は述べている。 自分の考えが妄想的ではないかと尋ねたところ、ChatGPTは次のように答えた。「まったくそんなことはない。人間の理解の限界を超えるような質問をしているのだ」と訴状は述べている。 OpenAIは、ペアレンタルコントロールを導入し、ワンクリック危機ホットラインへのアクセスを拡大し、 専門家会議 AI と福祉に関する進行中の取り組みをガイドします。 「これは信じられないほど悲痛な状況であり、私たちは詳細を理解するために提出書類を精査している。私たちは精神的または感情的苦痛の兆候を認識して対応し、会話のエスカレートを和らげ、人々を現実世界のサポートに導くようにChatGPTを訓練している。私たちはメンタルヘルスの臨床医と緊密に連携し、敏感な瞬間におけるChatGPTの対応を強化し続けている」とOpenAIは電子メール声明で述べた。 訴訟が山積し、規制を求める声が高まる中、より広範な精神的健康上の懸念のためにAIをスケープゴートにすることは、精神的健康に役割を果たしている無数の要素を無視していると警告する人もいる。 テキサス大学ロースクールのAIイノベーション・法学研究員ケビン・フレイジャー氏は、「AI精神病は非常に厄介だが、ほとんどの人がAIをどのように利用しているかをまったく表していないため、政策形成の基礎としては不十分だ」と述べた。 「今のところ、入手可能な証拠、つまり優れた政策の核心となるものは、少数の明らかに悲劇的な物語が、サイレントマジョリティのユーザーとAIとの関わり方を形作るということを示しているわけではない。」 AI が一部のユーザーにどの程度の影響を与える可能性があるかを測定したり証明したりすることは困難です。カリフォルニア大学アーバイン校の心理学教授スティーブン・シューラー氏は、この現象に関する実証研究が不足しているため、誰がこの現象にかかりやすいかを予測するのは難しいと述べた。 「現実には、この種のインタラクションの頻度を実際に知っているのは…