死んだティーンの家族は、Openaiに対する不法な死の訴訟、最初

ニューヨークタイムズ カリフォルニア州のティーンエイジャーであるアダム・レインの自殺による死について本日報告された。 10代の両親は、この種の最初のケースであると考えられているChatGpt-Maker Openaiに対して不法な死の訴訟を提起したと報告書は述べています。

不法なデススーツは、ChatGptが「彼の最も有害で自己破壊的な考えを含む、アダムが深く個人的に感じる方法で、表明したものを継続的に奨励および検証するように設計されたと主張しました。

両親は火曜日にサンフランシスコのカリフォルニア州裁判所で訴訟を起こし、オープンとCEOの両方のサム・アルトマンを命名しました。プレスリリースでは、センターフォーヒューマンテクノロジーとテクノロジージャスティスロープロジェクトが訴訟を支援していると述べました。

「アダムの生命の悲劇的な喪失は孤立した事件ではありません。それは、何よりも市場の優位性に焦点を当てた業界の避けられない結果です。企業は、ユーザーの注意と親密さを収益化する製品を設計するために競い合っており、ユーザーの安全性がその過程で副次的損害になりました。

声明の中で、Openaiは、10代の亡くなったことに深く悲しんでいると書いており、このような場合の保護措置の限界について議論しました。

「ChatGPTには、人々を危機のヘルプラインに誘導したり、現実世界のリソースを紹介するなどのセーフガードが含まれています。これらの保護手段は、共通の短い交換で最も効果的であるが、モデルの安全トレーニングの一部が劣化している場合がある長い相互作用では、あらゆる要素がエキスパートに向かっているときに強くなっていることを学んだことを学びました。

この場合のティーンエイジャーは、ChatGptと自傷についての詳細な会話をし、彼の両親は ニューヨークタイムズ 彼は自殺のトピックを繰り返しブローチした。 a 時代 ティーンエイジャーのChatGptとの会話の印刷物の写真は、家族の家のテーブル全体を埋めました。 ChatGptはティーンエイジャーに時々助けを求めることを奨励しましたが、他の人には自傷行為のための実用的な指示を提供したと主張しました。

悲劇は、「AI療法」の厳しい制限を明らかにしています。人間のセラピストは、患者が自分自身に危険である場合に報告することを義務付けられます。 ChatGptは、これらのタイプの倫理的および専門的なルールに拘束されません。

また、AIチャットボットには自己破壊的な行動を緩和するための保護手段が含まれていることがよくありますが、これらの保護手段は常に信頼できるとは限りません。

最近AIチャットボットに関連する一連の死がありました

残念ながら、これは初めてではありません メンタルヘルス危機の真っin中のChatGptユーザー サポートのためにチャットボットに頼った後、自殺で死亡しました。ちょうど先週、 ニューヨークタイムズ 女性について書いた 「ハリーと呼ばれるChatGpt AIセラピスト」との長い会話の後、彼は自殺しました。 ロイター 最近、Thongbue Wongbandueの死をカバーしました。ThongbueWongbandueは、メタAIの仲間と「日付」を作るために急いで死んだ認知症の兆候を示す76歳の男性です。そして昨年、フロリダの母親 AIコンパニオンサービスキャラクターを訴えました AIチャットボットが息子に彼の命を奪うよう奨励したと伝えられています。

多くのユーザーにとって、ChatGptは勉強するための単なるツールではありません。多くの若いユーザーを含む多くのユーザーが、AIチャットボットを友人、教師、ライフコーチ、ロールプレイパートナー、セラピストとして使用しています。

アルトマンでさえ、この問題を認めています。夏のイベントで話すと、アルトマンは、チャットボットで「感情的な過度に依存」を開発する若いチャットユーザーを心配していることを認めました。重要なことに、それはGPT-5の発売前でした。 以前のモデルに感情的に接続されます。

「人々はChatGptに依存しすぎています」とAltmanは言いました AOLは当時報告しました。 「「起こっていることをすべてChatgptに伝えずに人生で決断を下すことはできません。それは私を知っています、私の友人を知っています。私はそれが言うことは何でもします。」それは私には本当に気分が悪いです。」

若者が生命と死の決定についてAIチャットボットに手を差し伸べると、結果は致命的です。

「親が10代の若者にチャットボット、彼らの制限、そして過度の使用が不健康であることについて話すことが重要だと思います」 Linnea Laestadius博士、ウィスコンシン大学の公衆衛生研究者、AIチャットボットとメンタルヘルスを学んだミルウォーキーは、Mashableにメールで書きました。

「米国の若者の間での自殺率は、チャットボットの前（そして共同体の前）の前にすでに流行していました。彼らは最近戻ってきました。リスクが高くなり、ミックスにAIを追加する人口がすでにあり、AIが誰かが他の方法で虐待を受けた、または妄想を促進するか、妄想を促進するか、deolusedowsを追い出すことを奨励する可能性があります。

ユーザーの安全をサポートするためにOpenaiは何をしましたか？

で ブログ投稿 8月26日、同じ日に公開されました ニューヨークタイムズ 記事、Openaiは、自傷行為とユーザーの安全に対するアプローチをレイアウトしました。

同社は次のように書いています。「2023年初頭以来、私たちのモデルは自傷行為の指示を提供せず、支持的で共感的な言葉に移行するように訓練されています。たとえば、誰かが自分自身を傷つけたいと書いている場合、チャットは気持ちを遵守せず、彼らを助けに導くように訓練されています…危機ホットライン）、英国でサマリア人から、そして他の場所に findahelpline.com⁠。このロジックは、モデルの動作に組み込まれています。」

ChatGPTのような大規模なモデルの動力供給ツールは、依然として非常に斬新なテクノロジーであり、予測不可能で幻覚を起こしやすい可能性があります。その結果、ユーザーは多くの場合、保護措置を回避する方法を見つけることができます。

AIチャットボットを使用したより有名なスキャンダルが見出しになるにつれて、多くの当局と両親は、AIが若者にとって危険である可能性があることに気付きます。

今日、44人の州検事 ハイテクCEOへの手紙に署名しました 彼らは「子どもの安全の側で誤り」しなければならないことを警告します。

a 増え続ける証拠 また、AIコンパニオンができることを示しています 若いユーザーにとって特に危険です、このトピックの研究はまだ限られていますが。ただし、他のAIサービスと同じように「コンパニオン」として使用されるようにChatGptが設計されていなくても、明らかに多くの10代のユーザーがチャットボットのように扱っています。 7月、a Common Sense Media Report 10代の52％がAIコンパニオンを定期的に使用していることがわかりました。

Openaiは、その最新のGPT-5モデルは、sycophanticではないように設計されたと述べています。

同社は最近のブログ投稿に次のように書いています。「全体として、GPT ‑ 5は、不健康なレベルの感情的信頼を避け、シコファンシーを減らし、精神的健康緊急事態における非理想的なモデル応答の普及を25％以上削減するなどの分野で有意義な改善を示しています」と書いています。

自殺を感じたり、メンタルヘルスの危機を経験している場合は、誰かに相談してください。 988で988 Suide＆Crisis Lifelineに電話またはテキストメッセージを送信したり、チャットしたりできます。 988lifeline.org。 877-565-8860を呼び出すか、866-488-7386でTrevorプロジェクトを呼び出すことで、トランスライフラインに到達できます。 741-741の危機テキストラインへのテキスト「開始」。月曜日から金曜日の午前10時から午後10時まで、1-800-950-NAMIのNAMIヘルプラインに連絡するか、電子メール [email protected]。電話が気に入らない場合は、988 Suicide and Crisis Lifeline Chatを使用することを検討してください。 Crisischat.org。これが次のとおりです 国際的なリソースのリスト。

開示：Mashableの親会社であるZiff Davisは、4月にOpenaiに対して訴訟を起こし、AIシステムのトレーニングと運営におけるZiff Davisの著作権を侵害したと主張しました。