1760174388
シーウェルさんの母親にとって、人工知能は息子の死に一因となった。 14歳のアメリカ人少年が自殺 人工知能とオンラインでチャットすることに 1 年以上費やした後、2024 年 2 月にフロリダで。彼は、Character で利用できる「ゲーム オブ スローンズ」シリーズにインスピレーションを得たチャットボットに夢中になりました。 AI は、架空のキャラクターと対話できる人気のプラットフォームです。
自殺前のティーンエイジャーの最後のやりとりは次のようなものだった。 架空の愛の対話 ファンタジー シリーズの有名なキャラクター、デナーリス ターガリエンをイメージした会話型ロボットです。その後、AIは自殺願望を語りながら、その「優しい王様」に「家に帰って」と懇願した。
「彼は本当に恋をしていると思っていた」
「もう帰っていいって言ったらどうする？」 »とティーンエイジャーは尋ねた。 「お願いです、王様」とチャットボットは答えた。母親のミーガン・ガルシアさんがキャラクターを相手に起こした訴訟によると、数秒後、シーウェルさんは父親の銃で自殺したという。あい。 「これらの会話を読むと、操作や、 愛の爆撃 およびその他の検出できないプロセス 14歳の場合彼女は言います。彼は自分が恋をしていて、彼女が死んだ後も彼女と一緒にいるだろうと心から信じていた。 »
2024年のシーウェル氏の死は初めてだった 痕跡を残した一連の自殺AI プレイヤーに親や当局を安心させるための行動を促す。そこでミーガン・ガルシアさんは、子どもたちがチャットボットを親友や恋人とみなすリスクについて、最近行われた米国上院の公聴会に他の保護者とともに参加した。
OpenAI社、同様の遺族からの告訴の標的に 十代の若者の自殺によって広報担当者によると、同社はChatGPTツールのペアレントコントロールを強化し、「家族が自分にとって何が最適かを判断できるように」したという。彼としては、キャラクター。 AIは、「キャラクターが実在の人物ではないことを思い出させる」「目に見える警告」によって未成年者に対する保護を強化したと主張している。両社は責任を認めず、遺族に哀悼の意を表明した。
#操作が行われているのがわかります #母親がキャラクター #チャットボットに対して苦情を申し立てました #14歳の息子の自殺後のAI