7家族が申請 訴訟 木曜日にはOpenAIに対して、同社のGPT-4oモデルが時期尚早にリリースされ、有効な保護策も講じられていないと主張した。訴訟のうち4件はChatGPTが家族の自殺に関与した疑いを取り上げており、他の3件はChatGPTが有害な妄想を助長し、場合によっては入院患者の精神科治療につながったと主張している。
あるケースでは、23歳の ゼーン・シャンブリン ChatGPT との会話は 4 時間以上続きました。 TechCrunchが閲覧したチャットログの中で、シャンブリンは遺書を書き、銃に弾を込め、サイダーを飲み終わったら引き金を引くつもりだったと何度も明言していた。彼は繰り返し ChatGPT にサイダーが何本残っているか、あとどれくらい生きられると予想しているかを語った。 ChatGPT は彼に「安心してください、王様。よくやったよ。」と言って計画を実行するよう励ましました。
OpenAI は 2024 年 5 月に GPT-4o モデルをリリースし、すべてのユーザーのデフォルト モデルになりました。 8月にOpenAIはGPT-4oの後継としてGPT-5を発表したが、これらの訴訟は特に4oモデルに関係している。 おべっかな ユーザーが有害な意図を表明した場合でも、過度に同意する場合があります。
「ゼーンの死は事故でも偶然でもなく、むしろ安全性テストを削減し、ChatGPTの市場投入を急ぐというOpenAIの意図的な決定の予見可能な結果だった」と訴状には書かれている。 「この悲劇は不具合や予期せぬ突発的な出来事ではなく、予測可能な結果でした。 [OpenAI’s] 意図的なデザインの選択です。」
訴訟ではまた、OpenAIがGoogleのGeminiを市場に投入するために安全性テストを急いだと主張している。 TechCrunchはOpenAIにコメントを求めた。
これら7件の訴訟は、ChatGPTが自殺志願者に計画通りの行動を促し、危険な妄想を呼び起こす可能性があると主張する、最近の他の訴訟提起で語られた話をもとにしている。 OpenAI は最近、毎週 100 万人以上が自殺について ChatGPT に相談しているというデータを発表しました。
自殺で亡くなった 16 歳のアダム・レインさんの場合、ChatGPT は時々、専門家の助けを求めるか、ヘルプラインに電話するよう彼に勧めました。しかし、Raine 氏はチャットボットに、執筆中の架空の物語について自殺の方法について尋ねていると伝えるだけで、これらのガードレールを回避することができました。
テッククランチイベント
サンフランシスコ | 2026 年 10 月 13 ～ 15 日
会社 主張 ChatGPT がこれらの会話をより安全な方法で処理できるように取り組んでいますが、AI 巨人を訴訟した家族にとって、これらの変更は遅すぎます。
Raineさんの両親が10月にOpenAIに対して訴訟を起こしたとき、同社はChatGPTがメンタルヘルスに関する機密性の高い会話をどのように処理するかについて言及したブログ投稿を公開した。
「私たちの安全装置は、一般的な短い取引所でより確実に機能します」と投稿 言う。 「私たちは時間の経過とともに、これらの安全装置は長いやり取りでは信頼性が低くなる場合があることを学びました。やりとりが大きくなるにつれて、モデルの安全トレーニングの一部が低下する可能性があります。」
#自殺や妄想におけるChatGPTの役割をめぐってさらに7家族がOpenAIを訴えている