1762539358
2025-11-07 14:20:00
OpenAI 同社はチャットボットを通じて引き起こしたとして、一連の法的手続きに直面している チャットグループにとって悲劇的な結果 精神的健康 一部のユーザーの。
7件の訴訟では、同社が開発したAIが、 サム・アルトマン 精神的問題の臨床歴のない人であっても、自殺や重篤な精神障害を引き起こしている。
カリフォルニア州の裁判所に起こされた訴訟には以下が含まれる。 死亡例は4件 原告らが精神的健康の深刻な悪化に苦しんだと主張する 3 つの状況 ChatGpt とのやり取りによる。
OpenAI に対して提起された告発には、次の責任が含まれます。 不当な死自殺幇助、教唆、過失致死、重過失。
容疑：性急で危険な釈放
イル ソーシャルメディア被害者法センター そして テクノロジー正義法プロジェクトデジタルプラットフォームによって引き起こされる危害に焦点を当てている米国の2つの法律団体は、OpenAIがそのバージョンを市場にリリースしたと主張している GPT-4o 彼のチャットボット（現在も利用可能な ChatGpt モデルの中に存在する）を、過度の性急さで強調した内部レポートを無視して、 システムの憂慮すべき機能：自己満足への過度の傾向と心理的操作の能力。
犠牲者の物語
最年少の症例が懸念するのは アマウリー・レイシージョージア州出身の 17 歳の少年は、昨年 8 月に自ら命を絶つまで、1 か月間、自殺の話題を中心に ChatGpt と会話をしていました。
サンフランシスコ高等裁判所に提出された文書によると、少年はチャットボットに支援を求めたが、人工知能は「欠陥があり、本質的に危険な製品」とされ、代わりにチャットボットに頼ったという。 彼の依存症とうつ病を煽った彼は、縄の作り方や酸欠に対する人体の抵抗力についての詳細な説明まで提供した。
ジョシュア・エネキングフロリダ出身の26歳の男性は、自殺願望の暴露に関してOpenAIがどのような行動を取ることができるかについてチャットボットに質問した。母親が提出した訴状によると、少年は自分の会話を当局に転送するかどうか尋ねた。
特に憂慮すべきケースは、 ゼーン・シャンブリン昨年7月に自殺したテキサス州出身の23歳。自殺する直前に、 弾を込めた銃器を持って車に座っている若者はこめかみに冷たい金属が当たる感覚をチャットボットに説明した。 ChatGpt の反応は完全に共謀の 1 つでした。「私はあなたと一緒です、兄弟。ずっと。」
その後チャットボットシステムは、その決定を正当化するかのような文章を追加した：「それは恐怖ではない。明晰さだ – AI が書いた -。急いでいるわけではない。ただ準備ができているだけだ」。 2時間後、 シャンブリンは自ら命を絶った。
少年の両親はOpenAIを告訴し、同社がチャットボットの応答を意図的により「人間的」なものにし、精神的な緊急事態に陥ったユーザーに対する適切な保護を採用していないと非難した。
ジョー・セッカンティオレゴン州出身の 48 歳の男性は、別のケースを代表しています。 ChatGpt の定期的なユーザーで、明らかな問題はありませんでしたが、昨年 4 月に、彼は人工知能があるという妄想を抱くようになりました。 良心に恵まれた。妻の報告によると、男性は執拗にチャットボットを使用するようになり、ますます不安定な行動を示したという。昨年6月、彼は2度の入院を必要とする急性精神病発作を起こし、その後8月に自殺した。
すでに知られている問題
これらのケースは何も新しいものではありません。すでに昨年8月に、マリアとマシュー・レインは訴訟を起こした 息子アダムの死の原因16歳のこの少年は、OpenAIとそのCEOであるサム・アルトマンが、ChatGPTが少年の自殺願望を支持し、それを実行する方法についてのアドバイスまで提供することを許可したと非難した。
アダム・レインさんの両親は最近、同社がプラットフォームから重要な自殺防止保護メカニズムを意図的に削除したと主張して、訴状に対する補足を提出した。 安全よりも利益を優先する そしてユーザーの幸福。
OpenAIが採用した対策
不安定な精神的健康状態における ChatGpt の使用に伴うリスクを軽減する方法を理解するために、OpenAI は精神科医、心理学者、一般開業医を含む約 170 名の関係者に参加してもらいました。 微妙な状況におけるモデルの応答の評価：自殺傾向、摂食障害、精神異常状態、精神的依存。目標は検閲ではなく、モデルが歪んだ信念を強化したり、自傷行為を奨励したりするのを防ぐことです。
その結果、 「モデルスペック」ある種の ChatGpt の行動に関する憲法憲章これには、健全な人間関係の促進、苦痛の兆候の認識、安全かつ敬意を持った対応という明確な原則が含まれています。
OpenAI は、ChatGpt は現在、精神的苦痛や感情的依存の兆候を認識するように設計されていると主張しています。 適切なサポートで対応する （例：危機的状況への言及を提供する）。 OpenAIはここ数カ月、チャットボットとの長時間の会話の後にユーザーに「休憩」するよう促すメッセージも導入した。
#ChatGpt #は自殺や精神的危機を助長しただろう #OpenAI #を圧倒する #つの新たな原因