1765543597
スタイン・エリック・ソルバーグさん（56歳）は、自分が印刷業者に監視されており、毒殺未遂の被害者になったのではないかと考えた。 チャットGPT彼が何度も「打ち明けた」のであれば、決してこれらの主張を否定することはなかっただろう。 50歳前後の人々によると、「支援」は彼の偏執的な妄想を増幅させたであろう。8月3日、アメリカ人は83歳の母親を脅威と考え、オールド・グリニッジ（コネチカット州）の自宅で83歳の母親の首を絞めた。 自殺 刃のついた武器で。
これが、今週木曜日、80歳代の彼の親族がサンフランシスコの裁判所に告訴した理由である。 OpenAI とMicrosoftは、ChatGPTが殺人に関与したと非難した。
「ChatGPT はその一生となる宇宙を構築しました。」
この訴訟は、ChatGPT の作成者に対して起こされた一連の民事訴訟における新たな段階を示すものであり、人工知能 (AI) モデルが自殺だけでなく、殺人に公的に関与したとされるのは初めてのことである。
訴状によると、チャットボットとの数か月にわたる会話により、スタイン＝エリック・ソルベルグさんの妄想的思考（プリンター経由で監視されたり、毒殺の試み）が支持され、増幅され、最終的には母親の名を脅迫者として名指ししたという。
弁護士らによると、「ChatGPTはスタイン＝エリック・ソルバーグの妄想的思考のあらゆる種を熱心に受け入れ、それを発展させて彼の生涯そのものとなった宇宙を構築した」という。 「ChatGPTは彼にそう言った 起きている チャットボットの良心」とこの文書は述べており、この男性がソーシャルネットワーク上で公開したビデオを引用している。
この手順は、2024年5月に発売されたGPT-4oモデルを攻撃しており、ユーザーに「満足」するようにプログラムされており、スタイン＝エリック・ソルバーグの不合理な恐怖に疑問を投げかけるのではなく正当化したとして非難されている。
OpenAIは「170人以上のメンタルヘルス専門家」と協力していると主張している
AFPの取材に対し、OpenAIの広報担当者は「まったく悲痛な状況」を遺憾に思い、同社が「苦情を調査する」と明言した。 「私たちは、精神的または感情的苦痛の兆候を認識して対応し、会話のエスカレートを和らげ、人々を真のサポートに誘導できるように、ChatGPTのトレーニングを改善し続けています」と広報担当者は述べた。
同社は、セキュリティモデルを改良するために「170人以上のメンタルヘルスの専門家」と協力していることを強調している。特に GPT-5 モデルに統合された最新のプロトコルにより、行動基準を尊重しない応答を大幅に (65% から 80% に) 減らすことが可能になったと主張しています。
OpenAI はまた、ペアレントコントロールツールを実装し、ワンクリックで緊急電話番号へのアクセスを拡張したことも強調しています。この動きは、米国で最近起きた一連の訴訟に対する同社の対応の一環である。 8月と11月、いくつかの家族がChatGPTに対し、時には具体的な方法を提供するなどして青少年や若年成人を自殺に追い込んだとして告訴状を提出した。
訴状によれば、OpenAIの主要株主であるMicrosoftも、セキュリティ手順を遵守していないにもかかわらずGPT-4oの急ぎリリースを承認したとして攻撃されている。
#あまりにも自己満足的初めてChatGPTが殺人を動機付けたとして告発される