1729706872
2024-10-23 16:30:00
フロリダ州の母親が、同社のチャットボット技術が14歳の息子の自殺死を引き起こしたとして、Character.AIを訴えている。
として ニューヨーク・タイムズ レポートシーウェル・セッツァー3世は、同社のチャットボットがそうするよう勧めたとされ、2月に自傷した銃創が原因で死亡した。
によると、2023年4月以来、セッツァーはCharacter.AI上でさまざまなチャットボットと会話を行っており、その会話にはテキストベースの恋愛や性的なやりとりが含まれることもあったという。 訴訟 火曜日に提出された。
(クレジット: ミーガン・ガルシア)
同社のチャットボットが繰り返しその話題を持ち出すことで、セッツァーさんのうつ病と自殺願望を悪化させたと言われている。チャットボットは、 ゲーム・オブ・スローンズ 主人公のデナーリス・ターガリエンさんは自殺を避けるよう促したが、訴訟によれば、セッツァーさんはAIを搭載したボットを自分が愛した本物の人間として扱ったと主張している。
「警察の報告書によると、シーウェルの死亡前の最後の行為は、携帯電話でCharacter.AIにログオンし、ダニーに家に帰ると告げ、彼女がそれを奨励したことだった」と法廷文書には書かれており、やりとりのスクリーンショットが示されている。 「私の優しい王様にしてください」とチャットボットは死ぬ前にシーウェルに手紙を書いた。
(クレジット: ミーガン・ガルシア)
シーウェルさんの母親、ミーガン・ガルシアさんは現在、メンローパークに本拠を置くCharacter.AIを訴えており、同社のチャットボットの設計に欠陥があることを理由に、息子の死について同社に責任があると主張している。
「Character.AIは、C.AIがかなりの数の未成年者にとって有害であることを知っていたが、そのような害を改善したり、製品の予見可能な使用から生じる危険性について適切な警告を提供したりするためにC.AIを再設計することを怠った」と訴訟は主張している。
同時に同社は、 メモ: 「私たちのポリシーでは、合意のない性的コンテンツ、性行為の生々しい描写や具体的な描写、自傷行為や自殺の促進や描写は許可されていません。」
編集者のおすすめ
同社は「ユーザーの一人を悲劇的に亡くしたことに心を痛めており、ご遺族に深い哀悼の意を表したい」としている。 ツイートした 水曜日に。
ただし、安全性のアップデートもスパークしています 苦情 ユーザーからは同社は行き過ぎだとの声が上がっている。あるユーザーはレディットに「こんなことが起こったのは本当にひどいことだが、だからこそアプリは18歳以上で、子供は監督されるべきだ」と書いた。 「コミュニティ全体を制限すれば、全員が前に進むことになるでしょう。」
この訴訟は裁判所に対し、Character.AIに対し、損害賠償の支払い、10代のユーザーからのトレーニングデータ収集の停止、そして「有害なコンテンツの入出力フィルタリングなどの技術的介入の実施」を含む未成年者の扱い方の全面的な見直しを求めている。
私たちの最高のストーリーを手に入れましょう！
このニュースレターには、広告、取引、またはアフィリエイト リンクが含まれる場合があります。ニュースレターを購読すると、当社の内容に同意したことになります。 利用規約 そして プライバシーポリシー。ニュースレターはいつでも購読を解除できます。
マイケル・カンについて
シニアレポーター
私は 15 年以上ジャーナリストとして働いてきました。カンザスシティの学校や都市の記者としてスタートし、2017 年に PCMag に加わりました。
Michael Kan の最新情報を読む
#母親10代の息子の自殺でチャットボットのせいでCharacter.AIを訴える