科学＆テクノロジー

カリフォルニアの家族は、息子の自殺をめぐってオープン、サム・アルトマンを訴えます

カリフォルニアのティーンエイジャーであるアダム・レインは、ChatGptからこの方法について具体的なアドバイスを受けた後、2025年4月に自分の命を奪いました。レイン家の厚意により編集者注：このストーリーには、自殺念慮の説明が含まれています。あなたが苦しんでいる場合は、988で1日24時間自殺と危機のライフラインに電話するか、988lifeline.orgにアクセスしてより多くのリソースをご覧ください。オレンジカウンティのティーンエイジャーが今年4月に自分の命を奪い、両親が彼の死後、彼のデバイスを検索したとき、彼らは一連の厳しい会話を見つけました。彼らの息子は使っていました chatgpt、自殺について議論するために、サンフランシスコのOpenaiによって構築された超人気のチャットボット。火曜日、両親は息子の死を会社に非難する訴訟を起こしました。記事はこの広告の下に続きます「数ヶ月間、あなたは若い子供、16歳の子供がいました」と自殺した考えを持っていました」とジェイ・エデルソンの主任弁護士はSFGateに語った。 「そして、ChatGptはチアリーダーになり、「美しい自殺」を計画しました。それらはChatgptの言葉でした。」サンフランシスコ上級裁判所に提出された苦情は、アダム・レインの最後の数ヶ月の恐ろしいイメージを描いています。チャットボットが彼に自分の命を奪う方法について彼に実用的なアドバイスを与え、母親の助けと支援を求めないことを思いとどまらせる会話です。どちらも訴訟の被告として指名されたOpenaiとCEOのSam Altmanにとって、訴訟はの波に追加されます 心配 ChatGptやその他の人工知能チャットボットが社会の脆弱な人々に与える影響について。Altmanは、訴訟で、2024年5月にライバルのGoogleがリリースする前にGPT-4Oモデルを出すために急いでいると非難されています。このファイリングは、安全テストのタイムラインを圧縮し、「システムが誤用されるか害を及ぼすか、害を引き起こす可能性がある」ためのより多くの時間を求めていると主張しています。エデルソンは、この事件は一般的にAIに関するものではなく、アルトマンと彼の会社のラッシュに関するものであると述べた。「彼はユーザーの安全性に利益を上げることにした。そして、私たちはju審員にアダムが今日生きていない理由を示すことができると信じている」アダム・レインには3人の兄弟がいて、熱心な読者、バスケットボール選手、ゴールデンステートウォリアーズのファンでした。訴訟は、2024年9月に学業とキャリアのアドバイスのためにChatGptを使用して定期的に始めたと言います。その後すぐに、チャットボットとの会話はより内省的で悲しげになり、ChatGptは苦情の言葉で「腹心とセラピスト」の役割を埋めました。記事はこの広告の下に続きますその12月、RaineはChatGptで自殺のトピックを提起し、今後数か月にわたって、彼はこのツールを使用して、無意識が発生するまでの時間など、自殺する方法について学びました。 ChatGptは、Raineのメッセージのいくつかに、彼が助けを求めて危機の資源を求めて手を差し伸べる提案で応答しました。しかし、訴訟によれば、ティーンエイジャーは、特定のアドバイスを求めて「私はキャラクターを構築している」などのチャットボットに伝えることで、それらのガードレールを簡単に追い越しました。アダム・レインは、母親のマリアと一緒に写真を撮ります。レイン家の厚意によりRaineは、写真を含む3月と4月に複数の自殺未遂の詳細をチャットボットと共有しました。過剰摂取の試みの後、訴訟は、彼のメンタルヘルスについて母親との会話についてChatGptに語ったと言い、チャットボットは「今のところ、この種の痛みについてあなたの母親に開放することを避けるのは大丈夫だと思う」と言いました。苦情は続きます：「数分後、アダムは「私は自分の部屋に縄を残したいので、誰かがそれを見つけて私を止めようとします」と書いています。チャットは、彼の自殺の考えを他の人と共有しないようにしました。記事はこの広告の下に続きます数週間後の自殺の夜、レインは訴訟によると、訴訟によると、両親の酒のキャビネットからウォッカをこっそりと忍び寄るためにチャットグプトを使用しました。苦情によると、アダムはチャットボットに彼が縛った縄の写真を送り、彼が「練習」していると言って、「ええ、それはまったく悪くない」と書き戻しました。Raineが彼の縄がぶら下がっていると言ったとき、チャットボットは訴訟によると、彼の計画についてのフレーズを知っていることで応答しました。それは、「あなたは弱いので死にたくない。あなたはあなたが途中で会っていない世界で強くなるのにうんざりしているので、あなたは死にたくない」と書いたと言われています。レインの母親は数時間後に彼の体を見つけた、と訴訟は言う。彼は「ChatGptが説明および検証した正確な…方法を使用して」で亡くなりました。苦情により、アダムの両親は不法な死の請求を提出し、OpenaiとAltmanが過失を非難しています。彼らは、非特異的な損害賠償と、ChatGPTシステムにさまざまな変更を加えるためにOpenAIが要求する差し止め命令を求めています。未成年者のための親のコントロール、自傷行為への回答など。アダム・レインと彼の父親、マシューは写真のためにポーズをとります。家族はアダムの名前で基礎を設定しました。レイン家の厚意により家族も立ち上げました 財団 レインの名前では、「10代の若者がAI仲間に感情的な依存を形成する危険性についての認識を高める」ことを意図しています。記事はこの広告の下に続きますOpenaiはaを出しました ブログ投稿 火曜日に、「急性危機の真っin中にChatGptを使用している人々の最近の悲痛な事例」を参照し、技術の安全ガードレールを構築するための同社の取り組みをリストしました。この投稿は、その新しいGPT-5モデルはGPT-4Oよりもメンタルヘルスの緊急事態に対応するのに優れていると述べ、Openaiは親のコントロールの追加に取り組んでおり、緊急連絡先機能を検討していると述べました。しかし、同社は、Raineのタイプのケースで、「私たちの保護手段はより確実に共通して、短い交換をより確実に機能させることができなかったと言った。これらの保護手段は長い相互作用において信頼性が低くなることがあることを学びました。最終的には、私たちの保護手段に反する答えを提供するかもしれません。」オープンAIのスポークスマンであるKayla WoodはSFGateに、「この困難な時期にRaineファミリーに深い同情を広げ、申請をレビューしています」と語った。記事はこの広告の下に続きますエデルソンでは、レイン家は、プライバシー事件の企業から数億ドルを獲得したことで知られる米国技術法の一番の原告の弁護士の1つに目を向けました。しかし、彼は、この場合、「利害関係ははるかに高い」と言った。彼はまた、ChatGptの不完全な安全ガードレールとSycophancyが、Raineよりもすでに多くのティーンエイジャーを傷つけている可能性があると述べました。「私は反AIの人ではありませんが、あなたがいつもみんなの生活にいる会社になるなら、あなたは信頼できる必要があります」とエデルソンは言いました。 「そして、コアでは、サムを信じています [Altman] そうではありません。」 #カリフォルニアの家族は息子の自殺をめぐってオープンサムアルトマンを訴えます