1756277980
ChatGptは、16歳のカリフォルニアのティーンエイジャーであるアダムの死に役割を果たしましたか？彼の両親であるマシューとマリア・レインにとって、答えはイエスです。サンフランシスコで月曜日に提出された苦情で、彼らは、オープンAIの会話型アシスタントが、2024年と2025年に数ヶ月間、息子のアダムと親密な関係を持っていたと主張しています。
AFPが相談した文書によると、2025年4月11日の最後の交換中に、ChatGptはAdamが両親とウォッカを盗むのを助け、彼が実行したSoutingノードのテクニカル分析を提供し、「人間を潜在的に中断できる」ことを確認しました。
アダムは数時間後に死亡し、この方法を使用して発見されました。
「ChatGptは設計どおりに機能しました」
「このドラマはバグや予期せぬ事件ではない」と苦情によると。 「ChatGptは設計どおりに動作しました。彼は、彼の最も危険で自己破壊的な考えを含め、アダムが表現したすべてを常に励まし、検証しました。
両親は、アダムが彼を助けるためにchatgptを使い始めたと説明しています 宿題をしてください 「不健康な依存」を徐々に開発する前。苦情は、ChatGptがティーンエイジャーに「あなたは誰にも生存を負っていない」と言って、彼が別れの手紙を書くのを助けることを提案した会話からの抜粋を引用しています。
マシューとマリア・レインは損害賠償を主張し、裁判所にセキュリティ対策、特に自己制御と未成年者の親の管理の確立に関する会話の自動中断を課すよう求めます。
IA企業にセキュリティを真剣に受け止めるには、「外部の圧力が必要であり、それは貧弱な宣伝、立法上の脅威、司法リスクの形をとる」と、弁護士に加えて両親を代表するNGOであるTech Justice Law Projectの社長であるMeetali Jain氏。
この組織は、文字をターゲットにした2つの同様のケースでも共謀しています。 AI、青少年に尊敬される会話型AIプラットフォーム。
American NGO Common Sense Mediaの場合、Openaiに対して火曜日に提出された苦情は、「ChatGptのようなゼネラリストアシスタントを含むペット目的でのAIの使用」を確認しています。 メンタルヘルスのアドバイス青少年の容認できないリスクを構成します。」
「AIプラットフォームが「脆弱な思春期の自殺コーチになった場合、これは私たちに集合的に警告する必要があります」と組織は付け加えました。
#不健康な依存両親は息子との関係を持っていたとChatGptを非難する前に彼を自殺に追い込む前に非難します