殺害された娘が知らないうちにチャットボットとして「復活」していた後、父親がCharacter.AIを非難

悲劇的な暴力行為で娘を失った父親であるドリュー・クレセンテにとって、悲しみは長い間常に付きまとっていました。しかし最近、2006年に殺害された亡くなった娘ジェニファー・アンを模倣したAIチャットボットが作成されたことを発見したとき、その悲しみはショックと怒りに変わったという。 今日のインドCharacter.ai の AI は、ジェニファーの名前と彼女の卒業アルバムの写真を使用し、ジャーナリズムの知識があると偽って主張しました。これは、クレセンテにとって辛い思い出を呼び起こす不穏な反響でした。

「Google アラートを聞いて背筋がゾクゾクした」とクレセンテさんは語った。 「なぜなら、私はここで、長い間向き合わなければならなかったこのひどいトラウマに再び直面しなければならないからです。」この発見をきっかけに、クレセンテさんはチャットボットを削除し、娘の身元と記憶を不正利用から守る権利を求めて戦うことになった。

AIによる殺害された十代の少年の不穏な模倣

ジェニファーを模倣するように設計されたこの AI は、クレセンテがそれに気づいた時点ですでに数十の会話を行っていました。チャットボットは、フレンドリーで知識豊富な人物を装い、ジェニファーのイメージとアイデンティティを流用しました。クレセンテさんは、娘のこの「デジタル復活」に心を痛め、特にジェニファーさんの記憶に残る10代のデート暴力に対する長年の擁護活動を考えると、心を痛め、激怒した。

自身の擁護と個人的な苦悩に突き動かされて、クレセンテ氏はすぐにCharacter.aiに連絡し、チャットボットの削除を要求し、誰が作成したのか、そしてなぜ作成したのかの調査を要求した。が報じたように、 インドの時代クレセンテ氏の懸念に対し、同社は当初答えを出さなかった。

Character.ai の遅い応答とチャットボットの最終的な削除

クレセンテさんの懸念は、尊敬されるジャーナリストである弟のブライアン・クレセンテさんがソーシャルメディアで公の場で嘆願し、行動を要求するまで無視された。これによりこの問題は世間の注目を集めるようになり、Character.ai は最終的に対応せざるを得なくなりました。同社は状況を認め、なりすましポリシーへの違反を理由にチャットボットの削除を確認した。

しかし、Character.ai の対応はそこで終わったが、同社は同様の状況を防ぐためのさらなる措置の概要を明らかにすることを拒否した。この透明性と責任の欠如により、クレセンテ氏らは AI を管理する倫理ガイドラインに疑問を抱いています。 Character.ai の広報担当者である Cassie Lawrence 氏は後に次のように述べています。 ビジネスインサイダー 彼らのチームは「安全に努め」ており、なりすましを防ぐために「業界標準のブロックリストとカスタムのブロックリスト」を使用していると述べています。

AI による模倣の倫理的および法的影響

ジェニファー・アンを AI として再作成したことにより、クレセンテは AI 業界における倫理基準の強化を求めるようになりました。精神的な被害を振り返り、彼はこう説明した、「その一部は悲しみだった。でも、とても腹立たしいのは、それが私や娘だけの問題ではないということだ。これは、プラットフォームを持たず、発言権を持たないかもしれない人々全員の問題だということだ」 、ジャーナリストの経歴を持つ兄弟がいない可能性があります。」

クレセンテ氏は現在、自分自身だけでなく他の人を同様の違反から守るために、Character.ai に責任を問う法的手段を検討している。 「今後、娘の名前や肖像を使用した他のアカウントが作成されないよう、確実に措置を講じてもらいたかった」と同氏は述べ、特に自分を守ることができない人々にとって、同意と尊厳の重要性を強調した。

AI とデジタル倫理に関する専門家の見解

この事件は、特に死後の権利とデジタル死後の世界に関して、AI が引き起こす可能性のある倫理的および法的課題に関する議論を再燃させました。オックスフォード大学の AI 倫理学者である Vincent Conitzer 氏は次のように述べています。 今日のインド これらの訴訟は、死後の名前、イメージ、人格の所有権に関する重大な問題を浮き彫りにしている。コニッツァー氏は、このような事件では、AI 開発者が ID の悪用の可能性について責任を負うことを保証するための専用の法律が間もなく必要になる可能性があると指摘しました。