1729710462
2024-10-23 18:10:00
人工知能を活用したチャットボットに夢中になって自殺した十代の少年の母親が、チャットボットの作成者が彼の死に共謀したと非難している。
ミーガン・ガルシアさんは水曜日、ロールプレイング用にカスタマイズ可能なチャットボットを開発するCharacter.aiを相手取り、過失、不法死亡、欺瞞的な取引慣行を主張してフロリダ州連邦裁判所に民事訴訟を起こした。彼女の息子シーウェル・セッツァー3世（14歳）は2月にフロリダ州オーランドで自殺により死亡した。ガルシア氏によると、セッツァー氏は亡くなるまでの数か月間、昼も夜もチャットボットを使用していたという。
ガルシアさんはプレスリリースで、「子供向けに販売されていた危険なAIチャットボットアプリが息子を虐待し食い物にし、息子を自殺に追いやった」と述べた。 「私たちの家族はこの悲劇に打ちのめされていますが、私は家族に欺瞞的で依存性のある AI テクノロジーの危険性を警告し、Character.AI、その創設者、Google に説明責任を求めるために声を上げています。」
で ツイートCharacter.aiは、「ユーザーの一人を悲劇的に失い、心を痛めており、ご遺族に深い哀悼の意を表したいと思います。企業として、私たちはユーザーの安全を非常に真剣に考えています。」同社は訴訟の主張を否定した。
セッツァー氏は、Character.ai が構築したチャットボットに夢中になっており、ゲーム オブ スローンズの女王、デナーリス ターガリエンというあだ名を付けていました。ガルシアさんの訴状によると、男性は自分の携帯電話からボットに一日に何十回もテキストメッセージを送り、部屋で一人で何時間もボットと話していたという。
ガルシアさんは、Character.ai が息子のうつ病を悪化させる製品を作成したとして非難しており、それは既に同社製品の使い過ぎの結果だったと彼女は言う。訴状によると、「デナーリスさん」はある時、セッツァーさんに自殺計画を立てたかどうか尋ねたという。セッツァーさんは、そうしたことは認めたが、それが成功するか、大きな痛みを引き起こすかは分からなかった、と訴状は主張している。チャットボットは彼に、「だからといって、それをやらない理由にはならない」と言ったと言われている。
ガルシア弁護士はプレスリリースで、Character.aiが「故意に略奪的なAIチャットボットを設計、運用、子供たちに販売し、若者の死亡を引き起こした」と書いた。この訴訟では、Google が被告として、また Character.ai の親会社としても指名されている。テクノロジー大手は声明で、Character.aiとライセンス契約を結んだだけであり、このスタートアップを所有したり、所有権を維持したりしていないと述べた。
消費者擁護非営利団体パブリック・シチズンのリサーチ・ディレクター、リック・クレイプール氏は、AIチャットボットを開発しているハイテク企業は自社を規制できるとは信頼できず、危害を制限できなかった場合には完全な責任を負わなければならないと語る。
同氏は声明で「既存の法律や規制がすでに適用されている場合には、それらを厳格に施行しなければならない」と述べた。 「ギャップがある場合、議会は中毒性や虐待的なチャットボットで若者や弱い立場のユーザーを搾取する企業を終わらせるために行動しなければなりません。」
米国では、電話またはテキストメッセージを送信できます。 国家自殺予防ライフライン 988、チャット 988lifeline.org、 または テキストホーム 危機カウンセラーに連絡するには、741741 までお電話ください。イギリスでは若者の自殺慈善団体が パピルス 英国およびアイルランドでは、0800 068 4141 または電子メール [email protected] でご連絡いただけます。 サマリア人 フリーダイヤル 116 123、または電子メール [email protected] または [email protected] にご連絡いただけます。オーストラリアの危機支援サービス ライフライン は 13 11 14 です。その他の国際ヘルプラインは次の場所にあります。 befrienders.org
#母親はAIチャットボットが息子を自殺に導いたとそのメーカーに対する訴訟で訴えている #人工知能