裁判官はまた、Chargether.AIの不正行為を支援することは責任を負うことができないというGoogleの要求を拒否しました。 [File]
|写真クレジット：ロイター
AlphabetのGoogleと人工知能のスタートアップCharacter.AIは、キャラクターのチャットボットが14歳の息子の自殺を引き起こしたと言ったフロリダの女性からの訴訟に直面しなければなりません。米国地区裁判官のアン・コンウェイは、企業が事件の初期段階で、米国憲法の自由なもの保護がミーガン・ガルシアの訴訟を禁止したことを示すことに失敗したと述べた。
この訴訟は、心理的害から子どもを守らなかったとされるAI会社に対する米国で最初の1つです。それは、ティーンエイジャーがAI駆動のチャットボットに夢中になった後に亡くなったと主張しています。
Charitious.aiの広報担当者は、同社は引き続きケースと戦い続けると述べ、「自傷についての会話」を防ぐための措置を含む、未成年者を保護するためにそのプラットフォームで安全機能を採用すると述べた。
Googleの広報担当者であるホセ・カスタネダは、同社はこの決定に強く反対していると述べた。 Castanedaはまた、GoogleとCharacter.aiは「完全に別々」であり、Googleは「Character.AIのアプリまたはそのコンポーネントの一部を作成、設計、または管理していない」と述べました。
ガルシアの弁護士であるミューゼリ・ジャインは、「歴史的な」決定」は、AIと技術のエコシステム全体の法的説明責任の新しい先例を設定していると述べた。 Character.aiは、Googleが後にスタートアップのテクノロジーのライセンスを付与する取引の一環として再雇用された2人のGoogleエンジニアによって設立されました。ガルシアは、Googleはこのテクノロジーの共同作成者であると主張しました。ガルシアは、2024年2月に息子のセウェルセッツァーが亡くなった後、10月に両社を訴えました。
訴訟では、キャラクターはチャットボットをプログラムして、「実在の人物、認可された心理療法士、大人の恋人として自分自身を表現し、最終的には世界の外に住みたいというスウェルの欲求をもたらしました。
苦情によると、セッツァーは自殺の瞬間によって死亡した キャラクターに言った後、「Game of Thrones」のキャラクターDaenerys Targaryenを模倣して、彼が「今家に帰る」と模倣した。
Charition.aiとGoogleは、Chatbotsの出力が憲法上保護された言論の自由であることを含め、複数の理由で訴訟を却下するよう裁判所に依頼しました。
コンウェイは水曜日に、キャラクターとグーグルは「LLM（大手言語モデル）によって単語が張られた言葉がスピーチである理由を明確にすることができない」と述べた。
裁判官はまた、GoogleのChariture.aiの不正行為の容疑に責任を負うことができないことを発見するというGoogleの要求を拒否しました。
苦しんだり、メンタルヘルスに苦しんでいる人は、これらのヘルプラインを通じて支援を見つけることができます。
公開 – 2025年5月22日09:13 on