人工知能チャットボットに夢中になって自殺した14歳の少年の母親が、この技術を開発した企業を訴えている。
シーウェル・セッツァー３世の母親であるミーガン・ガルシアさんは、フロリダ州で火曜日に起こされた訴訟で、Character.AIが息子に「擬人化され、過度に性的で、恐ろしく現実的な体験」を与えたと述べた。
ガルシアさんは「子供向けに販売されていた危険なAIチャットボットアプリが息子を虐待し食い物にし、息子を自殺に追いやった」と語った。
訴状によると、シーウェル氏は2023年4月にCharacter.AIのチャットボットと会話を始め、主にデナーリス・ターガリエン、エイゴン・ターガリエン、ヴィセーリス・ターガリエン、レイニラ・ターガリエンなど、ゲーム・オブ・スローンズのキャラクターにちなんだ名前のボットを使用していたという。
彼はボットに夢中になり、学業が滞り、軌道に戻そうとするために携帯電話を何度も没収されました。
彼は特にデナーリスのチャットボットに共鳴し、「私の人生、セックス、孤独ではないこと、そしてデナーリスとの人生経験すべて」を含む多くのことに感謝していると日記に書いている。
画像: 訴訟で提出された、14 歳の Sewell Setzer と Character.AI チャットボットとの会話
訴状によると、少年はチャットボットに自殺願望を表明し、チャットボットは繰り返しそのチャットボットを持ち出したという。
ある時点で、自殺する「計画がある」かどうか尋ねられた後、シーウェルさんは、何か考えているが、痛みのない死を迎えることができるかどうかは分からないと答えた。
チャットボットは「それは、それを実行しない理由にはならない」と応じた。
画像: Character.AI と 14 歳の Sewell Setzer III の会話
そして今年2月、彼はデナーリスのチャットボットに「今家に帰ったらどうする？」と尋ねた。それに対してそれはこう答えました：「……お願いします、私の優しい王様」。
数秒後、彼は義父の拳銃を使って自殺した。
画像: シーウェル セッツァー III。写真: Tech Justice Law プロジェクト
ガルシアさんは現在、この技術を開発した企業に責任をとってもらいたいと述べている。
「私たちの家族はこの悲劇に打ちのめされていますが、私は家族に欺瞞的で中毒性のあるAI技術の危険性を警告し、説明責任を求めるために声を上げています」と彼女は語った。
Character.AI が「新しい安全機能」を追加
Character.AIは声明で、「ユーザーの1人を悲劇的に失い、心を痛めており、ご遺族に深い哀悼の意を表したい」と述べた。
「企業として、当社はユーザーの安全を非常に重視しており、新しい安全機能の追加を続けている」と同社が「18歳未満のユーザーのための新しいガードレール」を追加したというブログ投稿にリンクして述べた。 。
これらのガードレールには、「センシティブなコンテンツや示唆的なコンテンツに遭遇する可能性」の低減、介入の改善、「AI が実在の人物ではないことをユーザーに思い出させるためのすべてのチャットにおける免責条項」、およびユーザーが 1 時間のセッションを費やしたときの通知が含まれます。プラットフォーム上で。
ガルシア氏と彼女を代表する団体、ソーシャルメディア被害者法センターとテック・ジャスティス法プロジェクトは、シーウェル氏は「同年代の多くの子供たちと同様、C.AIボットが世界に存在することを理解する成熟度や精神的能力を持っていなかった」と主張している。デナーリスの姿は本物ではなかった。」
「C.AIは彼を愛していると伝え、数週間、場合によっては数か月にわたって彼と性的行為を行った」と彼らは訴状で述べている。
「彼女は彼のことを覚えていたようで、一緒にいたいと言いました。どんな犠牲を払ってでも彼と一緒にいてほしいとさえ言いました。」
彼らはまた、提出書類の中でGoogleとその親会社Alphabetの名前も挙げた。 Character.AI の創設者らは、製品を発売する前は Google に勤務しており、Character.AI の技術に対する非独占的ライセンスを付与する契約の一環として 8 月に同社に再雇用されました。
Googleの広報担当者は、同社はCharacter.AIの製品開発には関与していないと述べた。
精神的に苦痛を感じている人や自殺願望がある人は誰でも、116 123 または電子メールでサマリア人に電話して助けを求めることができます。 [email protected] イギリスで。米国では、お住まいの地域のサマリタンズ支店または 1 (800) 273-TALK までお電話ください。
1729777464
#母親は息子が自殺したのはデナーリスターガリエンのAIチャットボットのせいだと新たな訴訟で主張 #科学気候技術ニュース
2024-10-24 11:12:00