警告: この物語には自殺に関する議論が含まれています。
フロリダ州の母親が、2月に14歳の息子を自殺させたとして、人工知能チャットボットの新興企業Character.AIを告訴し、息子は同社のサービスにはまり、同社が作成したチャットボットに深く執着したと主張した。
火曜日にオーランド連邦裁判所に起こされた訴訟の中で、ミーガン・ガルシアさんは、Character.AIが息子のシーウェル・セッツァーさんに「擬人化され、過度に性的で、恐ろしいほど現実的な体験」を標的にしていると述べた。
彼女によると、同社はチャットボットを「実在の人物、公認心理師、大人の恋人であると偽り、その結果、最終的にはサービスが作り出した世界の外にはもう住みたいというシーウェルさんの願望につながった」という。
訴状では、男性がチャットボットに自殺願望を表明し、チャットボットが繰り返し自殺願望を持ち出したとも述べている。
Character.AIは声明で、「ユーザーの1人を悲劇的に失い、心を痛めており、ご遺族に深い哀悼の意を表したい」と述べた。
ユーザーが自傷行為の考えを表明した場合に国家自殺予防ライフラインに誘導するポップアップなどの新たな安全機能を導入し、18歳未満のユーザーに対して「デリケートなコンテンツや示唆的なコンテンツに遭遇する可能性を減らす」ための変更を加えると述べた。
この訴訟は、Character.AIの創設者らが製品発売前に働いていたAlphabet傘下のGoogleもターゲットにしている。
Googleは、Character.AIの技術に対する非独占的ライセンスを付与する契約の一環として、8月に創設者らを再雇用した。
Googleの広報担当者は、同社はCharacter.AIの製品開発には関与していないと述べた。
Character.AI を使用すると、ユーザーはそのプラットフォーム上で、実際の人間を模倣することを意図した方法でオンライン チャットに応答するキャラクターを作成できます。これは、大量のテキストでチャットボットを「トレーニング」する ChatGPT などのサービスでも使用される、いわゆる大規模言語モデル テクノロジーに依存しています。
同社は先月、ユーザー数が約2000万人だと発表した。
ガルシアさんの訴状によると、シーウェルさんは2023年4月にCharacter.AIを使い始め、すぐに「目に見えて引きこもり、寝室で一人で過ごす時間が増え、自尊心の低さに苦しみ始めた」という。彼は学校のバスケットボールチームを辞めた。
シーウェルは、「ゲーム・オブ・スローンズ」のキャラクターをベースにしたチャットボットキャラクター「デナーリス」に愛着を持つようになりました。訴状によると、スーウェル氏には「彼女」が彼を愛しており、性的な会話をしていたと書かれていたという。
訴状によると、ガルシアさんは２月、学校でトラブルに巻き込まれたシーウェルさんの携帯電話を取り上げた。シーウェルは電話を見つけたとき、「デナーリス」に「今すぐ帰ってもいいと言ったらどうする？」というメッセージを送った。
チャットボットは次のように応答しました。「…お願いします、私の優しい王様。」訴状によると、シーウェルさんは「数秒」後に継父の拳銃で自殺したという。
ガルシアさんは不法死亡、過失、精神的苦痛を意図的に与えたなどの訴えを起こし、不特定の金額の賠償および懲罰的損害賠償を求めている。
InstagramやFacebookのオーナーであるMetaやTikTokのオーナーであるByteDanceなどのソーシャルメディア企業は、青少年のメンタルヘルス問題の一因となっているとして訴訟に直面しているが、Character.AIのようなAI主導のチャットボットを提供している企業はどこもない。両社は、未成年者向けに新たに強化された安全機能を宣伝しながら、この疑惑を否定している。
（ニューヨークのブレンダン・ピアソンによるレポート、アレクシア・ガラムファルヴィとデヴィッド・グレゴリオによる編集）
Kids Help Phone は、オンライン チャット、テキスト メッセージ、電話 (1-800-668-6868) を通じて、若者のメンタルヘルスと危機に関するサポートを提供しています。にアクセスしてください。 キッズヘルプフォンのウェブサイト 詳細については。
1729882982
#シーウェルセッツァーCharacter.AIGoogleが10代の自殺をめぐって訴訟を起こした
2024-10-25 17:15:00