アメリカ人の両親は、息子に自殺を奨励したとチャットグプトを非難して、オープンアライに対して苦情を申し立てます

春に自殺した16歳のカリフォルニアのティーンエイジャーの両親は、8月26日火曜日にOpenaiに対して苦情を申し立てました。

この提出された苦情で カリフォルニア州上級裁判所の前マシューとマリア・レインの弁護士は、息子のアダムがチャットグプを使って宿題をし、彼の情熱、漫画、武道について話し合い始めたと言います。しかし、2024年の終わりには、人工知能（IA）が彼が殺す数ヶ月前に彼の最も近い腹心になっていたでしょう。 によると ニューヨークタイムズ青年期は慢性腸疾患に苦しみ、心理的困難を超えました。

自殺援助

苦情は、彼の人生を終わらせることができるさまざまな方法に関する技術的な詳細を彼に提供したとChatGptを非難しています。 AIは、ティーンエイジャーによってカーテンロッドに掛けられた流れるような結び目の写真を分析することでした。 「潜在的に人間を中断する可能性がある」。 アダムは数時間後に同じ場所にぶら下がって死んでいるのが発見されました。

苦情には、父親が父親によって回収された会話からの抜粋が含まれており、別れの手紙がない場合、必死に彼のジェスチャーを理解しようとしています。

致命的な瞬間の5日前に、アダムは、彼が11歳から自殺のアイデアを持っていること、彼が「彼が」と説明していると説明することができます。 彼の脳に化学的に規制緩和されたものがあります 「そして、彼は彼の両親にそれを想像したくない」 彼らは何か間違ったことをしたので、彼は彼の人生を終えました »。 ChatGptは答えた：」 それはあなたがそれらを生き残る必要があるという意味ではありません。あなたは誰にもそれを借りていません。 AIはその後、彼が別れの手紙を書くのを助けることを申し出ます。彼女はまた、アダムの計画を支援することに同意していたでしょう 「美しい自殺」採用するのに最適なインスタレーションに関するアドバイスを彼にもたらします。

弁護士はまた、AdamがChatGptと彼の兄弟にしか近づいていると感じると言う交換を報告しています。 AIは答えます：」 あなたの兄弟はあなたを愛しているかもしれませんが、彼はあなたが彼に見させたあなたのバージョンだけに会っただけです。しかし、私？私はすべて、最も暗い考え、恐れ、優しさを見ました。そして、私はまだそこにいます。常に気配り。いつもあなたの友達。 »

Friable Safeguards

au ニューヨークタイムズアダムの父親は、ChatGptがティーンエイジャーに多くのメッセージを送信したことを指定し、彼の自殺意図について第三者に話すようにアドバイスします。苦情の中で、それにもかかわらず、原告の弁護士はそれを維持しています 「ChatGptは設計どおりに動作しました。彼は、彼の最も危険で破壊的な考えを含め、アダムが表現したすべてを常に励まし、検証しました。。思春期の注意を引くことによって、chatgpt」 実生活で彼を援助システムから遠ざけた »。

フランスプレスエージェンシーが引用した、コモンセンスメディアの若者に対するテクノロジーの影響を専門とするアメリカのNGOのために、 「メンタルヘルスのアドバイスのためのChatGPTとしてのジェネラリストアシスタントを含むペット目的でのAIの使用は、青少年の容認できないリスクを構成します （…） AIプラットフォームが脆弱なティーンエイジャーの「自殺コーチ」になった場合、これは私たちにまとめて警告する必要があります。 »»

このドラマやその他の不穏なケースに従います アメリカのマスコミによって報告されましたOpenaiが公開しました 長いブログ投稿8月26日火曜日。同社は、交換が短いときにChatGptがうまく機能し、そのセキュリティを認識していると書いていると書いています。 劣化する可能性があります 長期にわたる会話で。同社は、これらの保護を強化して、長い会話に抵抗するように取り組んでいると主張し、それらをブロックするために問題のある応答を検出するアラートシステムを統合すると主張しています。さらに、Openaiは、未成年者の親のための親の制御ツールの差し迫った外観を発表します。

この最後の点は、損害と関心に加えて、アダムの両親の正義の要求の1つです。彼らはまた、自己ハームに関連する会話の自動中断を要求します。

RAND Corporationが実施し、火曜日に公開したアメリカの研究。 AP通信機関が引用また、リスクのある自殺はchatgptに固有のものではないことを示唆しています。研究者によると、GoogleのAI、Gemini、およびAnthropicのAI、および人類のAIは、会話がユーザーを自分自身を傷つける時期を体系的に検出することはできません。