HereAfter AI: もうここにはいない人々と話す: 人工知能で死者を蘇らせるリスク | テクノロジー

亡くなった親族の話を涙ながらに聞いた何人かの女性が、この事件での驚きを告白した。 見せる テレビ 蟻塚 (アンテナ3)。 「すごくリアルに感じたし、本当に必要だったんだ」とカメラの前で若い女性はすすり泣いた。 別の女性は「声は素晴らしく、この経験にとても満足しています」と涙をぬぐいながら付け加えた。 パブロ・モトスのプログラムは人工知能を利用して、実際の音声から死んだ人々の声を再現していました。 彼らはそれを再現しただけでなく、非常に簡単なことですが、 これら ディープフェイク ジョー・バイデンの声で あるいは英国労働党のキア・スターマー党首だ。 生成された音声は、参加者に「会話は残っていますか?」という質問を投げかけました。 — 番組が名付けたこの「現実の体験」の中で、 プライムタイム 新興市場では、人工知能（AI）を使って死者を再現するという市場が広がっている。 心理学者は、それが悲しみへの自然な適応を妨げ、最も苦痛な段階を慢性化させる可能性があると警告しています。

身近な人の死は自分の一部を失うようなものです。 それは精神的な幸福におけるいくつかの困難の原因です そして多くの人は、その圧倒的な喪失感を和らげるために何でも喜んで行うでしょう。 可能であれば、愛する人と面と向かって話してください。 SF のように聞こえますが、企業は ヒアアフターストーリーファイルy レプリカ 彼らはそれをやっているのですが、それは何も超自然的なことではありません。 インタビューやその他のコンテンツを使用して、死亡した個人のデジタル バージョンを作成し、チャット、音声、ビデオを通じて生きている人々と対話します。 中国ではこのビジネスはすでに成長しており、数社がこうしたデジタルペルソナやゴーストボットを数千個作成したと主張している。 自分にはそれができると主張する人さえいます。 わずか30秒間の故人の音声映像記録付き。

アメリカン ストーリーファイル は、ビデオを通じて人々の生涯を通じてインタビューし、幼少期、結婚式、最大の挑戦などの主要な経験と、インタビュー対象者が追加することを決めたその他の経験について一連の質問をします。 回答に基づいて人工知能を使用して、子供、両親、友人、親戚が将来対話できる会話ビデオが生成されます。 彼らの指摘によると、すでに約5,000人がプラットフォーム上でプロフィールを作成しているという。 サービスの料金は、含めたい質問の数に応じて 40 ～ 450 ユーロの間で異なります。 無料トライアルも提供しています。

StoryFile の共同創設者である Stephen Smith 氏は、この会社がホロコースト生存者の記憶を保存することを目的として 10 年前に誕生したと説明しています。 しかし、このプラットフォームが今日のようになり、誰でも自宅やスタジオからウェブカメラを使ってビデオを録画できるようになったのは 2021 年末のことでした。

共同創設者は、このプラットフォームはコンテンツを発明するのではなく、すでに存在する「事前に記録されたものを復元する」ものであると強調する。 ただし、さらに進んで、他の形式の情報を追加することも可能です。 「私たちは会話型アーカイブ手法を使用してこれを実行しました。 それは、その人の人生のコンテンツを使用することを意味します。たとえば、音声を複製して、その人が人生で言ったことを話してもらうことができるビデオです。 たとえば、電子メールを使用して、それを読んでもらうことができます。 誰かがそれを望んでいるなら、それは可能だ」と彼はテレビ会議を通じてEL PAÍSに語った。

ハマる危険性

おそらく最も憂慮すべき要素は、Antena 3 プログラムが示したように、仮想アバターは死者との誤った親近感を生み出すため、一部の人々が仮想アバターとの会話に依存したり、中毒になったりする可能性があることです。 ボランティアに参加した女性たちは、その声に直接語りかけた――「あなたに言いたいのですが…」「あなたがいなくて寂しいです」――あたかもその合成レクリエーションが1年前に亡くなった彼の祖母であるかのように。

「最初は安堵感がある。 しかし、その後、中毒や依存が生じます」と、悲しみのプロセスを専門とする心理学者のホセ・ゴンサレスは警告します。 「もしAIが文字通りその人の姿を再現するとしたら、特に非常に強い絆の場合には、慢性化する大きな危険があります。 彼は死んでいないという幻想に陥りやすい。 それは拒否段階でフリーズを引き起こす可能性があります」と彼は続けます。

25年間にわたって2万人以上の悲しみに暮れる人々と関わってきた専門家は、会話型ビデオが思い出を生き生きとさせ、逸話を語り、感情を込めて世代間で情報を伝えるのに役立つ可能性があることに同意する。 また、話し合いでは解決できなかった未解決の問題を解決するために、話し合いで行われるいくつかのテクニックを再現することに関しても同様です。 「私は亡くなった人との絆についていくつか質問します。たとえば、『あなたについて一番気に入ったことは何ですか』や『あなたが私を最も失望させたときは』などです。 これらの答えを基に、会葬者は手紙を書き、空の椅子に向かってそれを読み上げます」と彼は説明します。 同氏によると、AIは専門家による厳密な監督があれば、このようなダイナミクスにタイムリーに適用できるという。

ゴンザレス氏は、これらの録音で表現されたものにはリスクも伴うと指摘しています。 お別れのメッセージは非常に強力で、家族をどれだけ愛しているかを伝える瞬間であり、家族を罪悪感から解放し、悲しみをより耐えられるものにするため、苦しみを軽減するのに役立ちます。 ただし、専門家の監督がなければ、たとえ善意であっても悪影響を引き起こす可能性があります。 「私が一人娘の父親で、彼女にこう言うと想像してみてください。『お母さんの面倒を見ることが重要な目標としてあなたに残しておきます。』 それは非常に美しいこともあるが、母親となる人が重度の病気の場合には、文章にもなり得る」と彼は例示した。また、監督がなければ、誤解が生じる可能性が高くなります。

倫理的な問題

アバターはどこまで忠実になれるのでしょうか？ 誰が所有していますか? 作成にはどのような種類のデータを使用できますか? これらは、このトピックに関して生じる質問のほんの一部です。 のために グリ・ハッセルバルチ欧州研究評議会の倫理学者は、その含意は実存的な領域にまで拡大している。それを使って限界を突破することができれば。」

ハッセルバルヒ氏は、 シンクタンク デンマーク語 DataEthics.euは、故人のアバターの急増は、データ、同意、または誰が権利を持っているかを超えたジレンマを表していると考えています。 「それは人類と人間のアイデンティティを変える可能性があります。なぜならそれは死すべきという概念そのものに疑問を投げかけるからです」と彼女は言います。

いくつかの潜在的な問題の中で、AI倫理の専門家は、亡くなった人のソーシャルネットワーク、電子メール、モバイルメッセージの内容だけでなく、インターネット検索パターンも収集するツールの可能性を強調しています。 これにより、動物やスポーツへの情熱から、最悪の場合は暗い秘密に至るまで、その人の未知の趣味や関心が明らかになる可能性があります。

人工知能がこの情報をあなたのアイデンティティを構成する他の要素と組み合わせ、特定の側面により大きな関連性を与えた場合、その人の実生活の姿とはほとんど、あるいはまったく似ていないアバターやロボットが作成される可能性があります。 それは「コントロールが失われる」シナリオだ、と彼は警告する。 そしてそれだけではありません。 「恋しい愛する人から、特定の投票方法や特定のものを購入するように言われたら、どれほど簡単に操作されてしまうでしょうか? この背後にどのような企業が現れるかはわかりません」と彼女は振り返ります。

「ディープフェイク」と「著作権」

StoryFile の顧客の 1 人は、巨大企業ウォルマートの創設者である故サム・ウォルトン氏です。 「私たちは彼の会社のファイルに取り組みました。 「私たちは何時間にもわたる資料を検討し、彼のスピーチやビデオを書き起こし、彼が生涯に答えた質問に対する2,500の回答を、彼が使用したのとまったく同じ言葉で作成しました」と彼は説明します。 その結果、ウォルトンの顔、声、等身大のホログラムを備えたデジタル レクリエーションが完成しました。 それは非常に現実的であり得るでしょうか？ 「サムを知っている人は、彼のあまりに現実的な人物のせいで目が曇ってしまいます」と、この会社の幹部であるアラン・ドラナウは言う。 実業家のご遺族からは制作の承諾を得ておりましたが、 その他の有名な 彼らの顔や言葉は共通の合意なしに AI によって再現されました。

これは、2008 年に亡くなったアメリカのコメディアン、ジョージ カーリンの場合です。彼の声とスタイルは、 ポッドキャスト ジョージ・カーリン「死んでよかった」、 YouTubeに投稿された 1月の初めに。 先週、ロサンゼルスの連邦裁判所に訴訟が起こされ、制作会社デュデシーに対し、音声スペシャルを直ちに削除するよう求めた。 彼の娘のケリー・カーリンはすでに、アーティストの声を合成して現在のエピソードについてコメントするという制作を批判していた。 「父は生涯をかけて、人間性、頭脳、想像力を駆使して自分の工芸品を完成させました。 彼の天才に代わる機械は決してありません。 これらの AI によって生成された製品は、二度と存在することのない心を再現する独創的な試みです。 「アーティストの作品そのものに語ってもらいましょう」と彼は講演会で語った。 プラットフォームX。

StoryFile によると、このテクノロジーの最先端を統合したサービスは、選ばれたグループのみを対象としています。 「現時点では当社のウェブサイトでは製品として提供しておらず、個人のお客様向けに提供しています。 私たちは、私たちのテクノロジーが、 ディープフェイク 他の人から」とスミスは適格です。

ただし、それを行う代替手段もあります。 会社 ヘイ、ゲンたとえば、音声クローン、リップシンク、話し方を使用したビデオを生成できます。 注意深く見ないと、それが人工的な創造物であることに気づくことはほとんど不可能です。 このプラットフォームは、企業内でコンテンツをパーソナライズして翻訳するためのソリューションとして提示されていますが、実際には、愛する人に別れを告げたり、お金を生み出すために使用したりするなど、この種のあらゆる目的に使用できます。

フォローできます EL PAÍS テクノロジー で フェイスブック y バツ または、ここからサインアップして私たちのメッセージを受け取りましょう ニュースレターセマナル。