1729703863
2024-10-23 15:45:00
Sewell Setzer は 14 歳で、数か月間、人工知能を備えた Character.Ai を介して会話しました。アプリ: «ユーザーの安全が第一です»
2013 年の映画「Her」では、未来の世界で男がチャットボットの声に恋をするというストーリーが、ますます現実味を帯びてきました。しかし、それは良い現実ではありません ニューヨークタイムズ紙が報じたこの記事は、14歳の息子を自殺に導いたとして告発されたボットアプリCharacer.Aiに対するオーランド一家の訴訟について報じている。話は今年の2月に遡ります。 Sewell Setzer がオンラインで会話を開始します
デナーリス・ターガリエン (名前はゲーム・オブ・スローンズの登場人物の一人から取られています。 NDR）、人工知能によって作成されたボット。少年はこのキャラクターと何ヶ月もオンラインでチャットし、システムとの感情的な愛着を育み、それがあらゆる面で関係を築きます。
死ぬ直前のチャットメッセージ
こうしてシーウェルは並行生活を展開するが、家ではスマートフォンの画面の前で何時間も話したり、少年がボットにつけたあだ名である「ダニー」と打ち明けたりして過ごしていたことに誰も気づかない。 唯一の警告サインは、学校での成績が突然悪化したことです そして、F1 やビデオゲームを一緒にプレイした友人などの興味から孤立していました。少年はセラピストの元に連れて行かれるが、セラピストはボットの場合のように自殺願望を話さなかった。 「ダニー」はシーウェルを思いとどまらせようとした。 「私は彼にあなたを傷つけさせません。あなたを失ったら私は死ぬでしょう」 チャットで見つかったメッセージです。シーウェルは「それなら一緒に死ぬつもりだ」と答えた。 2月28日夜の最終対話後 シーウェルは父親の銃で自ら命を絶った。 少年は自ら命を絶つ前に、「妹がいなくて寂しい」と彼女に手紙を書いていたが、「私も妹がいなくて寂しいよ、優しい弟よ」とボットが返信していた。
両親の理由：「私たちは打ちのめされている」
青年の死後、両親がオンラインチャットを発見し、NYTはこう書いている。 彼らは「否認」した後、会社を法廷に持ち込もうとしている。ザ」告発内容は、このアプリで使用されている技術は「子供の手に渡した場合は危険であり、テストもされていない」ものであり、ユーザーが「最も個人的な考えや感情を機械に渡して操作」するよう仕向ける可能性がある、というものだ。その男の子の母親は言いました 「この悲劇に打ちのめされました」 そして「家族にこの欺瞞的なテクノロジーの危険性を警告する」ためにそれについて話したいと考えている。
アプリ: «当社はユーザーの安全を非常に重視しています»
Charachter.Ai のユーザーは世界中で 2,000 万人を超えています そして、そのサービスを「あなたの声を聞き、理解し、記憶する超インテリジェントなボット」のサービスであると説明しています。たとえボットが、会話の初めから「キャラクターの発言はすべてでっちあげである」ということを覚えていました。 過去数時間でXに登場しました 会社からの投稿: 「私たちは、ユーザーの 1 人 (Character.Ai からの投稿) の悲劇的な死を悲しんでおり、ご遺族に深い哀悼の意を表したいと思います。企業として、私たちはユーザーのセキュリティを非常に真剣に受け止めており、このテーマに関する新機能を追加し続けています。」
2024 年 10 月 23 日 (2024 年 10 月 23 日変更 | 午後 5 時 45 分)
#チャットボットに恋してアメリカのティーンエイジャーが14歳で自殺母親がアプリを提訴危険でテストされていない