死者のデジタル複製には緊急の規制が必要、AI倫理学者は語る | 人工知能 (AI)

1715214530
2024-05-09 00:00:00
人工知能 (AI)

「デッドボット」が作成者やユーザーに精神的危害を与えたり、デジタル的に「憑依」したりするのではないかという懸念

2024年5月9日（木）10.00 AEST

死者のデジタル再現は現実の瀬戸際にあり、緊急に規制が必要であるとAI倫理学者は主張し、「デッドボット」はその作成者やユーザーに精神的危害を与え、場合によっては「取り憑く」可能性があると警告している。

このようなサービスはすでに技術的に作成可能で法的にも許可されており、ユーザーが亡くなった親戚との会話をアップロードして、チャットボットの形で「おばあちゃんを生き返らせる」ことができる可能性があるとケンブリッジ大学の研究者らは示唆している。

これらは、末期の病気を患い、子どもと交流できるものを残したいと考えている親に販売されることもあれば、自分の人生全体をカタログ化してインタラクティブな遺産を作りたいと考えているまだ健康な人々に単純に販売されることもあります。

しかし、いずれの場合も、悪徳企業や軽率な商行為は永続的な精神的損害を引き起こし、故人の権利を根本的に軽視する可能性があると同紙は主張している。

「生成型 AI の急速な進歩により、インターネット アクセスと基本的なノウハウがあれば、ほぼ誰でも亡くなった愛する人を生き返らせることができるようになりました」と、ケンブリッジの未来知能センター (LCFI) の研究共著者の 1 人であるカタルジナ ノヴァチク バシンスカ博士は述べています。 ）。

「AI のこの分野は倫理的な地雷原です。 故人の尊厳を優先し、デジタル死後の世界サービスなどの経済的動機によってこれが侵害されないようにすることが重要です。」

リスクの 1 つは、広告を通じてデジタル レガシー サービスを収益化している企業です。 このようなサービスのユーザーは、デジタル的に再現された愛する人が、最初から料理するのではなくテイクアウトを注文するよう提案し始めたときにショックを受ける可能性があり、その結果、自分のデータを利用できるかどうかについて相談を受けていなかったという不快な認識につながる可能性があると同紙は示唆している。そのような方法。

このようなサービスのユーザーが子供である場合、さらに悪い結果が生じる可能性があります。 母親または父親の喪失に対処する子供たちを手助けしたい親は、すぐにデッドボットに頼ることになるかもしれません。

しかし、そのようなアプローチが心理的に役立つという証拠はほとんどなく、通常の追悼プロセスを短縮して重大な損害を引き起こす可能性があることを示唆するものは多くあります。

「いかなる再創造サービスも、子供たちに『デッドボット』との交流を許可することが有益であること、あるいは少なくともこの弱い立場の人々に害を及ぼさないことを証明することはできない」と同紙は警告している。

死者の尊厳と生者の精神的健康を保つために、研究者らは、規制の施行が必要になる可能性もある一連のベストプラクティスを提案している。

このようなサービスには、たとえば、デッドボットを慎重に「引退」させるための手順が必要であり、そのインタラクティブ機能を大人のみに制限するとともに、デッドボットの動作方法や人工システムの制限について非常に透明性が高くなければなりません。

ChatGPT スタイルの AI システムを使用して、亡くなった愛する人を再現するというアイデアは SF ではありません。 2021 年、Joshua Barbeau が GPT-3 を使用してチャットボットを作成し、話題になりました。 死んだガールフレンドの声で話したそしてその 6 年前、開発者のユージニア・クイダは親しい友人のテキスト メッセージをチャットボットに変換しました。これが最終的に人気のツールの作成につながりました。 AIコンパニオンアプリReplika。

このテクノロジーはチャットボット以外にも拡張されています。 2021 年、家系図サイト MyHeritage ディープノスタルジアを導入、静止画からユーザーの先祖のアニメーションビデオを作成する機能。 この機能が急速に広まった後、同社は一部のユーザーが「気味が悪いと感じた」ことを認めた。

「その結果は物議を醸す可能性があり、このテクノロジーに無関心でいることは困難です」とMyHeritageは当時述べた。 「この機能はノスタルジックな用途、つまり愛する先祖を生き返らせることを目的としています。 存命人物の「ディープフェイク」ビデオの作成など、悪用を防ぐため、当社のドライバービデオには音声が含まれていません。」

1 年後、MyHeritage は DeepStory を導入しました。これにより、ユーザーはトーキング ビデオを生成できるようになりました。

{{#ティッカー}}

{{左上}}

{{左下}}

{{右上}}

{{右下}}

{{#goalExceededMarkerPercentage}}{{/goalExceededMarkerPercentage}}{{/ticker}}

{{見出し}}

{{#段落}}

{{.}}

{{/段落}}{{強調表示されたテキスト}}
{{#choiceCards}}

1 回毎月毎月

他の

{{/choiceCards}}寄付をお願いするようお知らせいたします。 の受信箱でメッセージを探してください。 投稿に関してご質問がある場合は、お気軽にお問い合わせください お問い合わせ。
#死者のデジタル複製には緊急の規制が必要AI倫理学者は語る #人工知能