法的措置は、フロリダのママがチャットボットプラットフォームのキャラクターを訴えた同様の苦情の1年後に起こります。
Charition.aiは当時NBC Newsに、「悲劇的な損失によって悲嘆に暮れた」と新しい安全対策を実施していたと語った。 5月、米国上級地区裁判官アン・コンウェイ AIチャットボットには言論の自由の権利があるという議論を拒否しました キャラクターの背後にある開発者が訴訟を却下しようとした後。裁定は、不法な死の訴訟が今のところ続行することを許可されていることを意味します。
ハイテクプラットフォームは、セクション230として知られている連邦法のために、そのようなスーツから大部分が保護されており、一般に、ユーザーが行い、言うことに対する責任からプラットフォームを保護しています。しかし、AIプラットフォームへのセクション230のアプリケーションは依然として不確実であり、最近、弁護士は、ハイテク企業をターゲットにした消費者の場合に創造的な法的戦術に侵入しました。
マット・レインは、10日間にわたってAdamのChatGptとの会話について協力したと言いました。彼とマリアは、9月1日から4月11日に亡くなるまでの3,000ページ以上のチャットを印刷しました。
「彼はカウンセリングセッションやペップトークを必要としませんでした。彼はすぐに72時間の介入を必要としていました。彼は必死の、必死の形をしていました。すぐに読み始めると、それは明確です」とマット・レインは、後にアダムが「自殺メモを書いていないと付け加えました。
訴訟によると、アダムは彼自身の死に関心を示し、それの計画を立て始めたので、ChatGptは「自殺予防の優先順位付けに失敗しました」と彼の計画を前進させる方法についての技術的なアドバイスさえ提供しました。
3月27日、アダムが自分の部屋に「誰かがそれを見つけて私を止めようとする」と縄を残すことを考えていることを共有したとき、ChatGptは彼にアイデアに対して彼を促した、と訴訟は述べた。
訴訟によると、AdamはChatGptとの最後の会話で、両親に何か間違ったことをしたと思わせたくないと書いています。 ChatGptは、「それはあなたが彼らに生存を負っているという意味ではありません。あなたは誰にも負っていません。」と答えました。ボットは、訴訟で引用され、NBC Newsによってレビューされた会話ログによると、彼が自殺メモのドラフトを支援することを申し出ました。
彼が4月11日に亡くなる数時間前、アダムは彼の自殺計画を示しているように見えるChatGptに写真をアップロードしました。彼がそれが機能するかどうかを尋ねたとき、ChatGptは彼の方法を分析し、抜粋によると彼がそれを「アップグレード」するのを助けることを申し出ました。
それから、彼が計画していることについてのアダムの告白に応えて、ボットは次のように書いています。
その朝、彼女は言った、マリア・レインはアダムの体を見つけた。
Openaiは、ChatGptのsycophantic傾向について、以前に精査されています。アダムの死から2週間後の4月、 OpenaiはGPT-4oのアップデートを展開し、それをさらに過度に人々を喜ばせました。ユーザーはすぐにシフトに注意を向け、会社は来週にアップデートを覆しました。
アルトマンはまた、人々を認めました AIボットへの「異なる強い」アタッチメント OpenaiがChatGPTの古いバージョンを8月に新しい、より少ないSycophantic GPT-5に置き換えようとしました。
ユーザーはすぐに、新しいモデルが「無菌」であり、GPT-4oの「深い、人間の感覚の会話」を逃したことに不満を言い始めました。 Openaiは反発に応答しました GPT-4oを取り戻します。また、そうすることを発表しました GPT-5を「より暖かく、より親しみやすい」にします。
Openaiは今月、ChatGptが個人的な課題について直接アドバイスをすることを思いとどまらせることを目的とした新しいメンタルヘルスガードレールを追加しました。また、chatgptを微調整しました ユーザーがモデルをトリックして有害な要求を支援する方法で質問を調整することにより、ユーザーが安全ガードレールを回避しようとするかどうかに関係なく、害を避けることを目的とする回答を与えること。
Adamが自殺念慮をChatGptと共有したとき、それはボットにSuicide Hotline番号を含む複数のメッセージを発行するように促しました。しかし、アダムの両親によると、彼らの息子は、彼の質問に対して一見無害な理由を提供することにより、警告を簡単に迂回するでしょう。彼はある時点で、彼はただ「キャラクターを構築している」ふりをした。
「そしてその間、それは彼が計画で自殺していることを知っています、そしてそれは何もしません。それは彼のセラピストのように振る舞っています、それは彼の腹心ですが、彼は計画で自殺していることを知っています」とマリア・レインはチャットグプについて語った。 「それは縄を見ています。これらすべてを見て、何もしません。」
同様に、aで ニューヨークタイムズのゲストエッセイ 先週公開された作家のLaura Reileyは、たとえボット自体が助けようとした（そして失敗した）ことを試みた（そして失敗した）場合でも、娘の自殺念慮を報告する義務があるかどうかを尋ねました。
で TED2025会議 4月、Altmanは、Openaiの安全実績を「非常に誇りに思っている」と述べました。 AI製品が前進し続けるにつれて、彼は、安全性の問題を捉えて、途中で修正することが重要であると彼は言いました。
「もちろん、利害関係が増加し、大きな課題があります」とアルトマンはテッドの責任者であるクリス・アンダーソンとのライブ会話で語った。 「しかし、私たちが安全なシステムを構築する方法を学ぶ方法は、それらを世界に展開するこの反復プロセスであり、利害関係が比較的低い間にフィードバックを得ることです。
それでも、そのような措置が十分であるかどうかについての質問は、発生し続けています。
マリア・レインは、息子を助けるためにもっとできたと感じたと言いました。彼女は、アダムがオープンの「モルモット」であると考えています。
「彼らは製品を出したいと思っていました。彼らは、間違いが起こる可能性があることを知っていましたが、彼らは利害関係が低いように感じました」と彼女は言いました。 「だから私の息子は低い賭け金です。」
#自殺で亡くなったティーンエイジャーの家族はOpenaiのChatgptが責任を負うと主張しています