1764197546
サム・アルトマンは会社に対して苦情を申し立てた後に反応した OpenAI 昨年4月に命を絶ったカリフォルニアのティーンエイジャーの家族による。 アダム・レイン、16歳 チャットボットとの長い会話と「何ヶ月にもわたる励ましの後に行動を起こした」 チャットGPT 」と家族の弁護士が宣言したと報じている。 ガーディアン。
レインの「怪我と損害は、直接的および近接的に、全部または一部が原因または寄与したものである。」 [son] ChatGPTの悪用、無許可、意図的でない、予測不可能、および/または不適切な使用」とOpenAIは火曜日にカリフォルニア州最高裁判所に提出した文書の中で述べた。
提出された訴状によると、アダムはAIと何度も自分の命を終わらせる方法について話し合ったとされている。チャットボットは、ある方法の有効性について彼に指導し、両親に宛てた別れの手紙を書くことさえ提案したでしょう。
自傷行為に関する相談を「禁止」
これらの重大な告発に直面して、OpenAIは、利用条件はユーザーが自傷行為に関するアドバイスを求めることを禁止していると主張し、「真実または事実情報の唯一の情報源として結果に依存」しないよう規定されていることを思い出した。
彼のブログのメモには、「 メンタルヘルス訴訟に対する当社のアプローチ 」、5,000億ドルの企業は、「メンタルヘルス関連の法的問題を注意深く、透明性と敬意を持って処理する」と述べています。
「私たちは、この想像を絶する損失に対してレイン一家に深い哀悼の意を表します」とOpenAIは書いている、「これらの申し立てに対する私たちの対応には、アダムの精神的健康と個人的な状況に関する困難な事実が含まれています。」と同社は説明し、訴状にはティーンエイジャーとチャットボットの間の会話の抜粋のみが含まれていることを示しています。サム・アルトマンの会社は、会話の記録を「封印した状態で」法廷に送信したと明記しています。
数人の自殺後に7件の苦情が提出された
11 月初旬、Open AI に対して「過失」を理由に 7 件の苦情が提出され、そのうち 4 件は ChatGPT の使用に関連した自殺後のものでした。 AP通信が確認した訴状には、チャットボットが17歳のアマウリー・レイシーさんに「最も効果的な縄の結び方と、呼吸なしでどれくらい生きられるか」についてアドバイスしたとされている。 ゼイン・サンブリさん（23）もAIによって自殺に追い込まれたとされる。チャットボットは特に「弟よ、最後まで一緒だよ」とメッセージを送り、その学生は車に座ってピストルを手に引き金を引く準備はできていると打ち明けた。
こうしたケースの増加に直面して、OpenAI は 9 月以来、毎週 8 億人のユーザーに対して AI のペアレンタルコントロールを強化しました。今後、ロボットは子供が苦しんでいることを検知した場合、親に警告できるようになる。
100万人またはユーザーの0.15% 自殺願望を生成AIアシスタントに打ち明けるだろう OpenAI の推定に基づいています。
#OpenAI10代の少年の自殺を受けて責任を否定ChatGPTの不適切な使用を非難