企業

OpenAI、自殺念慮や精神病のあるChatGPTユーザーのデータを共有

OpenAI は、躁病、精神病、自殺願望など、メンタルヘルス上の緊急事態の兆候を示す可能性のある ChatGPT ユーザーの数についての新しい推定値を発表しました。同社は、特定の週にアクティブだった ChatGPT ユーザーの約 0.07% がそのような兆候を示したと述べ、同社の人工知能 (AI) チャットボットがこれらの機密性の高い会話を認識して応答すると付け加えました。OpenAIはこうしたケースは「極めて稀」だと主張しているが、ボスのサム・アルトマン氏によると、ChatGPTは最近、週間アクティブユーザー数が8億人に達したため、批評家らは、たとえわずかな割合であっても数十万人に上る可能性があると述べた。監視の目が強まる中、同社はアドバイスを提供する世界中の専門家のネットワークを構築したと述べた。同社によると、これらの専門家には、60カ国で診療経験のある170人以上の精神科医、心理学者、プライマリケア医が含まれているという。OpenAIによると、ユーザーが現実世界で助けを求めるよう促すために、彼らはChatGPTで一連の応答を考案したという。しかし、同社のデータを垣間見ると、一部のメンタルヘルス専門家の間で眉をひそめた。カリフォルニア大学サンフランシスコ校で若者のテクノロジー利用を研究するジェイソン・ナガタ教授は、「0.07％というと小さなパーセンテージに聞こえるかもしれないが、何億人ものユーザーがいる人口レベルで考えると、実際にはかなりの数になる可能性がある」と述べた。「AIはメンタルヘルスサポートへのアクセスを広げ、ある意味でメンタルヘルスをサポートしますが、限界があることを認識する必要があります」と永田博士は付け加えた。同社はまた、ChatGPT ユーザーの 0.15% が「潜在的な自殺計画または意図を示す明確な兆候」を含む会話をしていると推定しています。OpenAIは、チャットボットの最近のアップデートは「妄想や躁状態の潜在的な兆候に安全かつ共感的に対応」し、「潜在的な自傷行為や自殺リスクの間接的な信号」に注意するように設計されていると述べた。ChatGPT はまた、新しいウィンドウで開くことで「他のモデルから発信された」機密性の高い会話をより安全なモデルに再ルーティングするように訓練されています。影響を受ける可能性のある人の数に関する批判に関するBBCの質問に答えて、OpenAIは、この少数のユーザーは意味のある数の人々に相当すると述べ、変更を真剣に受け止めていると述べた。 この変更は、OpenAI が ChatGPT とユーザーの対話方法に関して法的監視の強化に直面している中で行われた。最も注目を集めた訴訟の一つで 最近提出された OpenAIに対し、カリフォルニア州の夫婦は、4月にChatGPTが息子に自殺を勧めたとして、10代の息子の死をめぐり同社を訴えた。この訴訟は16歳のアダム・レイン君の両親が起こしたもので、不法死亡でOpenAIを告発する初の訴訟となった。別の事件では、8月にコネチカット州グリニッジで起きた殺人自殺事件の容疑者がChatGPTとの数時間にわたる会話を投稿しており、それが犯人容疑者の妄想を煽ったようだ。カリフォルニア大学法学部AI法イノベーション研究所所長ロビン・フェルドマン教授は、「チャットボットが現実のような錯覚を生み出す」ため、AI精神病に苦しむユーザーが増えていると述べた。 「それは強力な幻想です。」同氏は、OpenAIが「統計を共有し、問題を改善する取り組み」を行ったことは称賛に値すると述べたが、「同社はあらゆる種類の警告を画面に表示できるが、精神的に危険にさらされている人はそれらの警告に注意を払うことができないかもしれない」とも付け加えた。 #OpenAI自殺念慮や精神病のあるChatGPTユーザーのデータを共有