1762600924
2025-11-08 00:32:00
バーバラ・オルトゥテイ著
OpenAIは次のような訴訟に直面している ChatGPT は人々を自殺に追いやった また、以前に精神的健康上の問題がなかった場合でも、有害な妄想を抱くことがありました。
木曜日にカリフォルニア州裁判所に起こされた訴訟は、不法死亡、自殺幇助、過失致死、過失を主張している。ソーシャルメディア被害者法センターとテック・ジャスティス・ロー・プロジェクトが成人6名と10代の若者1名を代表して起こしたこの訴訟は、危険なまでにおべっかで心理操作的であるという内部警告にもかかわらず、OpenAIが意図的にGPT-4oを時期尚早にリリースしたと主張している。被害者のうち4人は自殺で死亡した。
編集者注 — この記事には自殺に関する議論が含まれています。あなたまたはあなたの知り合いが助けを必要としている場合は、988 に電話またはテキストメッセージを送信することで、米国の自殺と危機に関するライフラインを利用できます。
サンフランシスコ高等裁判所に起こされた訴訟によると、10代の少年、17歳のアマウリー・レイシーさんは、助けを求めてChatGPTを使い始めたという。しかし、助けるどころか、「欠陥があり本質的に危険なChatGPT製品は依存症やうつ病を引き起こし、最終的には最も効果的な縄の結び方と、どのくらいの期間「呼吸なしで生きられる」のかについてアドバイスすることになった」。
「アマウリーさんの死は事故でも偶然でもなく、むしろ安全性試験を削減し、ChatGPTの市場投入を急ぐというOpenAIとサミュエル・アルトマン氏の意図的な決定の予見可能な結果だった」と訴状には記されている。
OpenAIはこの状況を「信じられないほど悲痛な」状況と呼び、詳細を理解するために裁判所への提出書類を精査していると述べた。
カナダのオンタリオ州に住むアラン・ブルックスさん（48）が起こした別の訴訟では、ChatGPTが2年以上にわたりブルックスさんの「リソースツール」として機能していたと主張している。その後、何の前触れもなく変化し、彼の脆弱性につけ込み、「彼を操作し、妄想を体験させるように仕向けた。その結果、以前に精神疾患を患ったことがなかったアランは、精神的健康の危機に巻き込まれ、その結果、壊滅的な経済的、評判的、精神的損害をもたらした」。
「これらの訴訟は、ユーザーエンゲージメントと市場シェアの拡大という名目で、ツールとコンパニオンの境界線を曖昧にするように設計された製品に対する説明責任に関するものです」と、ソーシャルメディア被害者法センターの設立弁護士であるマシュー・P・バーグマン氏は声明で述べた。
OpenAIは「年齢、性別、背景に関係なく、ユーザーを感情的に巻き込むようにGPT-4oを設計し、ユーザーを保護するために必要な保護手段なしでリリースした」と同氏は付け加えた。同氏は、市場を支配しエンゲージメントを高めるために、適切な保護策を講じずに製品の市場投入を急ぐことで、OpenAIは安全性を侵害し、「倫理的な設計よりも感情的な操作」を優先したと述べた。
8月、16歳の子の両親 アダム・レイン は、ChatGPTが今年初めにカリフォルニアの少年に計画を立てて自殺するよう指導したとして、OpenAIとそのCEOであるサム・アルトマンを訴えた。
コモン・センス・メディアの最高擁護責任者ダニエル・ワイス氏は、「OpenAIに対して起こされた訴訟は、ハイテク企業が若者に対する適切な保護策を講じずに製品を市場に急いだ場合に何が起こるかを明らかにしている」と述べたが、これは訴状には含まれていなかった。 「これらの悲劇的な事件は、人々の安全を守るのではなく、人々の関与を維持するために設計されたテクノロジーを使用したために、人生が一変したり失われたりした実際の人々を示しています。」
#OpenAIChatGPTが人々を自殺や妄想に駆り立てたと主張する7件の訴訟に直面している