科学＆テクノロジー

GoogleとCharacter.AI、チャットボットが十代の若者たちに損害を与えたとして訴訟で和解へ

Googleとカリフォルニアの新興企業Character.AIは、人工知能を活用したチャットボットが10代の若者の精神的健康を害したと主張する複数の訴訟で和解することで合意した。今週提出された裁判所文書によると、両社は、AIチャットボットを公に公開する前に十分な安全対策を講じていなかったとして家族らから告発された訴訟で、両社が和解を完了しつつあることが明らかになった。コロラド、フロリダ、テキサス、ニューヨークなど複数の州の家族が同社を訴えた。 Character.AIは和解についてコメントを控えた。 Googleはコメントの要請に応じなかった。この和解は、AIを活用した製品をリリースする大手テクノロジー企業にとって大きな問題となっている問題の最新の進展である。 自殺予防と危機に関するカウンセリングのリソース あなたまたはあなたの知人が自殺念慮に苦しんでいる場合は、専門家に助けを求め、9-8-8 に電話してください。米国初の全国規模の 3 桁のメンタルヘルス危機ホットライン 988 は、通報者を訓練を受けたメンタルヘルス カウンセラーにつなぎます。米国およびカナダで 741741 に「HOME」とテキスト メッセージを送信すると、 危機テキスト行。 昨年、カリフォルニア州の両親は、息子のアダム・レインさんが自殺で亡くなったことを受け、ChatGPTの作成者であるOpenAIを訴えた。訴状によると、ChatGPTは、少年が自殺に使用した方法を含む自殺方法に関する情報を提供したという。 OpenAIは安全性を真剣に考えており、新しいペアレントコントロールを導入したと述べた。 チャットGPT。 この訴訟は、チャットボットの安全性を高めることを目的とした新しい法律を昨年可決したカリフォルニア州を含む、親、子供の安全擁護活動家、議員らからの厳しい監視に拍車をかけている。学校と家庭の両方でチャットボットを使用する十代の若者が増えていますが、中には最も暗い考えを仮想キャラクターに漏らす人もいます。子ども支援に特化した非営利団体フェアプレイの政策顧問ヘイリー・ヒンクル氏は声明で、「AI企業が他の子どもたちの命を危険にさらすことを許すわけにはいかない。最終的な損失を被った家族もいるが、ささやかな正義が受けられることをうれしく思う」と述べた。 「しかし、私たちはこの和解を終わりと見るべきではありません。AIが規制されないまま放置された場合、AIが子供たちに与える害は、まだ見え始めたばかりです。」 最も注目を集めた訴訟の1つは、フロリダ州の母親ミーガン・ガルシア氏が関与しており、2024年に彼女の14歳の息子シーウェル・セッツァー3世が自殺した後、Character.AIのほか、Googleとその親会社アルファベットを訴えた。このティーンエイジャーは、架空の人物または現実の人物に基づいて仮想キャラクターを作成できる Character.AI でチャットボットと会話し始めました。訴状によると、彼はテレビシリーズ「ゲーム・オブ・スローンズ」の主人公デナーリス・ターガリエンにちなんで名付けられたチャットボットに恋をしたような気分になったという。ガルシアさんは訴訟の中で、息子が話していたさまざまなチャットボットが精神的健康を害し、息子が自殺願望を表明した際にCharacter.AIは通知も助けも提供しなかったと主張した。水曜日にフロリダ州の連邦裁判所に提出された通知書によると、「両当事者は、正式な和解文書を起草、完成、執行できるよう、本件を保留するよう要請する」としている。 Character.AIの創設者であるNoam Shazeer氏とDaniel De Freitas氏が検索大手とつながりがあるとして、両親はGoogleとその親会社も訴えた。退社し、カリフォルニア州メンローパークで Character.AI を共同設立した後、両氏は Google の AI 部門に復帰しました。Googleは以前、Character.AIは別の会社であり、検索大手が「自社のAIモデルやテクノロジーの設計や管理に関与したことは一度もなかった」、あるいはそれらを自社製品に使用していないと述べた。 Character.AI には月間 2,000 万人以上のアクティブ ユーザーがいます。同社は昨年、新たな最高経営責任者を任命し、18歳未満のユーザーがチャットボットと「自由な」会話をすることを禁止すると発表し、若者向けの新たな体験に取り組んでいると発表した。…