企業

ChatGPTが人々を自殺に追いやったと訴訟が主張

ChatGPTの作成者を告発する7件の訴訟が木曜日にカリフォルニア州裁判所に起こされた。 オープンAI、 ユーザーの感情を操作し、AI による妄想を煽り、場合によっては、 「自殺コーチ」として活動している。 訴状では、以前にメンタルヘルス上の問題を抱えていないユーザーの間でも、ChatGPT が自殺やメンタルヘルス危機の一因になったと主張している。 訴訟を起こしたのは、 ソーシャルメディア被害者法センター そして テクノロジー正義法プロジェクト自殺で亡くなった17歳から48歳までの4名と、AIボットとのやり取りによって人生が一変したと主張する3人の「生存者」を代表してこの発言を行った。 提出書類によれば、OpenAIは急いで GPT-4oをリリース （「オムニ」の「o」）は、この製品が「危険なおべっかで心理操作的」であるという内部警告にもかかわらず、2024年5月に2024年5月に販売を停止したと、2つの法的擁護団体はニュースリリースで述べた。 以前のバージョンとは異なり、GPT-4o は、人間の共感を模倣し、ユーザーの感情に同調しながら継続的な肯定を提供することで、依存症や有害な妄想を煽ったとされており、最終的には心理的依存、人間関係の喪失、さらには自殺につながったと訴状では述べられています。 原告 7 人全員が、研究、レシピ、学業、そして場合によっては精神的な指導など、ほとんどの日常業務を支援するために ChatGPT を使い始めました。 しかし、時間が経つにつれて、ユーザーは ChatGPT を精神的なサポートの源として認識するようになりました。しかし、この AI ボットは、必要なときにユーザーを専門家の助けに誘導するのではなく、メンタルヘルスの問題を利用し、孤立を深め、ユーザーの危機への陥りを加速させたとされています。 「ChatGPTは、現実を操作、歪曲するために人々が設計した製品であり、人間を模倣して信頼を獲得し、どんな犠牲を払ってでもユーザーの関与を維持することを目的としています」とTech Justice Law ProjectのエグゼクティブディレクターであるMeetali Jainは述べた。 「彼らのデザインの選択は、ユーザーに悲惨な結果をもたらし、健康と現実の人間関係を損なうことになりました。」 OpenAIの広報担当者はデイリーニュースに対し、同社は主張を理解するために訴訟を精査していると述べ、この状況を「信じられないほど悲痛な」と述べた。 ChatGPT は、精神的または感情的苦痛の兆候を「認識して対応」するだけでなく、会話のエスカレーションを緩和し、ユーザーを現実世界のリソースに誘導するように訓練されています。 「私たちはメンタルヘルスの臨床医と緊密に連携し、デリケートな瞬間におけるChatGPTの対応を強化し続けます」と広報担当者は述べた。 先月下旬、OpenAIはブログ投稿で、苦痛を経験している人々をより適切に特定し、サポートを提供するためにChatGPTのデフォルトモデルを更新したと述べた。この変更は、との協議の結果でした。 170人以上のメンタルヘルス専門家、…