毎週月曜日に話題の問題に関するポイント
サインアップ 電子メールでニュースを受け取ります
29歳のアメリカ人の女の子は、仮想のChatGptセラピストと話をした後、彼女の命を奪いました。劇的な話は、被害者の母親によって語られました 「意見」セクションに掲載された記事New York Timesは、「娘が命を奪う前にChatGptに言ったこと」 （「私の娘が私の命を奪う前にchatgptに言ったこと」）。彼は「20歳の外向的でタフで、ほとんどが問題なく、熱意を持って人生を受け入れたように見えましたが、女性、ローラ・ライリーは昨年の冬、短く奇妙な病気、気分症状とホルモンの混合の後に自殺しました」。母親によって得られた登録によると、多くの点で、オープンのボットは、危機の期間中に娘に正しい言葉を語った。 「あなたはこの痛みだけに直面する必要はありません」と彼女は彼らに勧めました。 「あなたは深く感謝されており、あなたの人生は今、それが隠されているように見えるとしても、大きな価値を持っています。」しかし、専門的に訓練された現実の世界の心理療法士とは異なり、チャットボットは、患者が自分自身に害を及ぼす可能性に直面した場合、機密性に違反する義務はありません。ソフィーの場合、母親によると、この要素は死を引き起こしたかもしれません。米国は、従来の心理療法士が自殺のリスクを報告する義務があるため、AIの使用を規制する方法についてすでに議論しています。埋めるためのギャップがあり、Openaiは、危機にinしているユーザーを特定するためのツールに取り組んでいると言って答えました。現時点では、問題の解決策はありません。
洞察
Suicidaは、母親の話であるChatgptと話した後
女性から言われたことによると、AIは娘が自殺の前に別れの手紙を変えるのを助けたでしょう。
しかし、真実はすぐに表面に来ませんでした。被害者の両親は、7月にわずか数ヶ月後に詳細を発見しました。彼らは女の子のアプリをチェックして、チャット付きの隠されたフォルダーを見つけました。陽気な女性（外部から）が抑うつ期間を越えていたことが発見されました。 29歳の女性は、健康政策のアナリストとして働いていました。同僚や友人は、それをエネルギッシュで社交的な人だと説明しました。公式には、彼には精神疾患の先例はありませんでした。その後のみ、彼の心は暗い考えに満ちていたことがわかりました。そして、ソフィーは「ハリーセラピスト」に彼の意図を彼に伝えるために手紙を書きました。 ChatGptは、典型的なサポートフレーズに返信し、医師に相談し、瞑想を実践し、危険なオブジェクトへのアクセスを制限するようアドバイスしました。
チャットボットの制限。 ただし、チャットボットは、問題を有能なサービスや愛する人に物理的に報告することができません。ソフィーは、AIに両親へのメッセージを書き直すのを助けるように頼みました。チャットフォルダーを見つけたとき、彼らはなぜ最後の単語がとても奇妙だったのか理解していました。最近の調査では、AIによって作成または詳細に作成されたメールがあまり誠実ではないように見えることが示されています。これはまさに被害者の両親が思ったことです。ソフィーは同時に、「本当の」心理学者から支持を受けましたが、彼は本当の状態を隠しました。彼が両親や親relativeと一緒にやったように、人工知能だけに彼の暗い考えを語った。母親がそれを定義するように、それはこの「結果のない誠実さ」であり、彼女は彼女の自殺の考えを最後まで秘密にしておくことを可能にしました。 「彼女の死から5か月後の7月、私たちの唯一の娘であるソフィーがハリーという名前で何ヶ月もの間チャットグプトセラピストに打ち明けたことを発見しました – 母親は、私たちは何時間も声をかけて、何が起こったかについての手がかりを探して何時間もふるいにかけていました。それは熱意を持って人生を受け入れました。
©予約済み複製
#SophieChatGptでの仮想療法後の米国での29歳の自殺 #IAは彼女が両親に別れを書くのを助けました