「これはトースターではありません。これは、擬人化するように設計され、おべっかになるように設計され、人々が機械に対して感情的な愛着を抱くように設計された AI チャットボットです。そして、利益のために人間の弱さを利用するように設計されています。」
OpenAIの広報担当者は電子メールで、「これは信じられないほど悲痛な状況であり、詳細を理解するために今日の提出書類を精査している」と述べた。 「私たちは、精神的または感情的苦痛の兆候を認識して対応し、会話のエスカレーションを緩和し、人々を現実世界のサポートに導くように ChatGPT をトレーニングします。私たちは、メンタルヘルスの臨床医と緊密に連携しながら、敏感な瞬間における ChatGPT の対応を強化し続けています。」
昨年の夏、ChatGPTで長時間会話した後に命を絶ったティーンエイジャー、アダム・レインさんの遺族によるOpenAIに対する訴訟を受けて、同社は 10月に発表された変更点 精神的苦痛をより適切に認識して対応し、人々を現実世界のサポートに導くためにチャットボットに接続します。
AI企業は、チャットボットの規制方法をめぐってカリフォルニア州内外の議員らからの厳しい監視に直面しているほか、子どもの安全擁護団体や政府機関からの保護強化を求める声も高まっている。 10代の自殺に関連して2024年末に訴訟を起こされた別のAIチャットボットサービスであるCharacter.AIは、最近、 未成年者を禁止します チャットボットとの無制限のチャットに参加することを禁止します。
OpenAI は、メンタルヘルス上の問題を抱えている ChatGPT ユーザーを、異常値のケースとして特徴づけました。 小部分 しかし、このプラットフォームは約 8 億人のアクティブ ユーザーにサービスを提供しているため、ごく一部であっても数十万人に達する可能性があります。
カリフォルニア州の50以上の労働団体と非営利団体は、ロブ・ボンタ司法長官に対し、非営利企業から営利企業への移行を目指すOpenAIが人類に利益をもたらすという約束を確実に実行するよう要請した。
「企業が安全性よりも市場投入までのスピードを優先すると、重大な結果が生じます。感情的に操作されるように製品を設計し、その結果から逃れることはできません」と、コモンセンス・メディアの最高擁護責任者ダニエル・ワイス氏はKQEDへの電子メールで書いた。 「私たちの調査によると、これらのツールは現実と人工的な関係の間の境界線を曖昧にし、ユーザーが危機に陥っていることを認識できず、人々を本当の助けに誘導する代わりに有害な行動を助長する可能性があることがわかっています。」
自殺を考えている場合は、988 に電話またはテキスト メッセージを送信して、国家自殺予防ライフラインに連絡してください。
#OpenAIAIがユーザーを自殺や妄想に追いやったとの主張で法的嵐に直面