世界

研究者らは死者の模倣についてAIチャットボット開発者に警告

ケンブリッジ大学の研究者らは、亡くなった親族との会話をシミュレートするように設計されたAIチャットボットを開発する企業に対し、ユーザーに苦痛を与えないよう注意を払うよう呼び掛けている。グリーフボットとしても知られるデッドボットは、ユーザーが自然言語を通じて亡くなった愛する人と対話できる会話型 AI チャットボットです。 デッドボットは、ChatGPT のような単なるチャットボットですが、亡くなった愛する人との会話を模倣するように特別に設計されています。成長の中で新興のスペースですが AIチャットボット市場、研究者らは、デッドボット開発者が責任を持ってこれらのシステムを設計しない場合、消費者を搾取する可能性があると警告しています。ケンブリッジの学者たちは、 理念と技術 ジャーナルの調査によると、デッドボット ユーザーはチャットボットの使用により感情的に消耗し、誰かに「取り憑く」幽霊のようにユーザーを苦しめる可能性があることがわかりました。「生成型 AI の急速な進歩により、インターネット アクセスと基本的なノウハウがあれば、ほぼ誰でも亡くなった愛する人を生き返らせることができるようになりました」と、研究共著者で同大学レバーフルム未来知能センターの研究員であるカタルジナ ノヴァチク バシンスカ氏は述べています。 。 「AI のこの分野は倫理的な地雷原です。 故人の尊厳を優先し、デジタル死後の世界サービスなどの経済的動機によってこれが侵害されないようにすることが重要です。」関連している：AIを支えるスタートアップ、ウィリアム・シャトナーが破産申請デッドボット スタイルのアプリケーションを構築している企業には次のようなものがあります。 ヒアアフターAI これにより、ユーザーはストーリーや思い出を記録し、亡くなった後に家族がアクセスできるようになります。 モバイル アプリはこれらの録音を収集し、生成 AI テクノロジーを利用して、録音された入力から引き出して、愛する人からの質問に対する応答を作成します。別の例は ストーリーファイル、個人の何時間もの録音に基づいてインタラクティブなチャットボットを作成します。 同社は有名な 不滅のカーク船長俳優ウィリアム・シャトナー 2021年。 破産を申し立てられた ところが先週。プロジェクト12月 は、独自のテクノロジーを開発する前に、OpenAI テクノロジーを使用して愛する人を再現していました。ケンブリッジの研究者は、デッドボット開発者がプロンプトに尊厳を持って応答するソリューションを設計することを望んでいます。この調査では、デッドボットの年齢制限のほか、発作に関するコンテンツ警告と同様に、愛する人とではなくチャットボットと話していることをユーザーに思い出させるための透明性対策が提案されています。また、ユーザーがデッドボットをオフにできるようにするオプトアウト措置も提案された。ケンブリッジの研究者らは、AIの「死後のプレゼンス」を提供する企業が悪用して、家族に一方的な通知をスパム送信する可能性があり、これは「デジタル的に『死者に付きまとわれる』のと同じだ」と主張している。関連している：ジョージ・カーリン、AIを活用したフェイクコメディが削除される共著者のトマシュ・ホラネク博士は、「人々はこのようなシミュレーションによって強い感情的な絆を築く可能性があり、特に操作されやすくなるだろう」と述べた。「デッドボットを堂々と引退させるための方法や儀式さえも検討されるべきです。 これは、たとえばデジタル葬儀の形式、または社会的状況に応じて他の種類の儀式を意味する可能性があります。」 #研究者らは死者の模倣についてAIチャットボット開発者に警告