14歳の息子がAIチャットボットに夢中になった疑いで、フロリダ州の母親がCharacter.AIとGoogleを訴える。
米国で自ら命を絶った10代の少年の母親が、息子の死を促したとして人工知能を活用したチャットボットのメーカーを訴えている。
フロリダ州で起こされた訴訟の中で、2月に14歳の息子シーウェル・セッツァー君が自殺で亡くなったミーガン・ガルシアさんは、Character.AIが「ゲーム・オブ・スローンズ』の登場人物、デナーリス・ターガリエン。
火曜日にオーランドで起こされた訴訟によると、Character.AIのチャットボットは、この十代の若者を「性的指向」と「恐ろしいほど現実的な体験」をターゲットにし、自殺願望を表明した後、繰り返し自殺の話題を持ち出したという。
訴状では、チャットボットが認可を受けたセラピストを装い、少年の自殺願望を助長し、人間の成人が始めた場合は虐待とみなされる性的な会話を行ったと主張している。
訴状によると、セッツァーさんは亡くなる前のAIとの最後の会話の中で、チャットボットが大好きで「あなたのところに帰ってくる」と語ったという。
ガルシアさんの訴えによれば、チャットボットは「私もあなたを愛しています、ダエネロ」と返答したという。 「できるだけ早く私の元に帰ってきてください、愛する人よ。」
「今すぐ帰っていいって言ったらどうする？」訴状によると、セッツァー氏はこう述べ、これに対してチャットボットは「…お願いします、私の優しい王様」と応答したと言われている。
ガルシアさんの訴訟では、不法死亡、過失、故意の精神的苦痛に対する不特定の損害賠償を求めている。
Xに掲載された声明の中で、Character.AIはユーザーの一人を失い「心が痛む」と述べ、遺族に哀悼の意を表した。
カリフォルニアに本拠を置くこの新興企業は、未成年者がセンシティブなコンテンツや挑発的なコンテンツに遭遇する可能性を減らすための変更や、AIが実在の人物ではないことをユーザーに思い出させるチャットの免責条項の修正など、安全性を高めるための機能を追加し続けていると述べた。
ガルシア氏の訴訟では、Googleも被告として名指しされている。
テクノロジー大手は8月にCharacter.AIとライセンス契約を結び、チャットボットを立ち上げる前にスタートアップの創設者を雇用した。
Googleの広報担当者はアルジャジーラに対し、同社はCharacter.AIとは別の会社であり、製品開発には何の役割も担っていないと語った。
あなたまたはあなたが知っている人が自殺の危険にさらされている場合、これらの組織が次のような支援ができる可能性があります。
1729752739
#米国の母親AIチャットボットが息子の自殺を促したと訴訟で語る #テクノロジー
2024-10-24 02:50:00