日本

2024年選挙：イーロン・マスクがカマラ・ハリスを真似たディープフェイク動画を公開

ニューヨーク（AP通信） — 声を真似て加工されたビデオ カマラ・ハリス副大統領 彼女が言わなかったことを言うことは、 人工知能 選挙日が約3か月後に迫る中、誤解を招く恐れがある。このビデオは注目を集めた。 テクノロジー界の大富豪イーロン・マスク 彼は金曜日の夕方、この動画を自身のソーシャルメディアプラットフォーム「X」でシェアしたが、もともとパロディとして公開されたものであることは明記されていない。このビデオには、ハリスが実際に制作した広告と同じ映像が数多く使われている。 民主党の大統領候補の有力候補、 先週、彼女のキャンペーン開始を記念したビデオが公開された。しかし、このビデオではナレーションの音声が、ハリス氏を真似て真似した別の声に置き換えられている。「私、カマラ・ハリスは民主党の大統領候補です。なぜならジョー・バイデンが討論会でついに老けぶりを露呈したからです」と動画の中で声が言っている。ハリスは女性で有色人種なので「多様性採用」だと主張し、彼女は「国を運営することについて基本的なことすら知らない」と言っている。動画では「ハリスを大統領に」というブランドはそのまま残されている。また、ハリスの本物の過去の映像もいくつか追加されている。 ハリス陣営の広報担当者、ミア・エレンバーグ氏はAP通信への電子メールで「アメリカ国民が望んでいるのは、ハリス副大統領が提供している本当の自由、機会、安全であり、イーロン・マスク氏やドナルド・トランプ氏の偽りの操作された嘘ではないと信じている」と述べた。 広く共有されたこの動画は、 AIが生成した画像、動画、音声クリップ 大統領選挙が近づくにつれ、AIは政治をからかったり誤解させたりするために利用されてきた。高品質のAIツールが以前よりもずっと進歩しているにもかかわらず、 よりアクセスしやすいしかし、これまでのところ、AIの使用を規制するための連邦政府による目立った措置は欠如しており、政治におけるAIの指針となる規則は主に州政府とソーシャルメディアプラットフォームに委ねられている。 このビデオはまた、AIの適切な使用法の境界が曖昧なコンテンツ、特に風刺の範疇に入るコンテンツをいかに最善に扱うべきかという疑問を提起している。 この動画を投稿した元のユーザー、ミスター・レーガンとして知られるユーチューバーは、ユーチューブとXの両方で、加工された動画はパロディであると明かした。しかし、同プラットフォームによると、1億2300万回以上視聴されているマスク氏の投稿には、「これはすごい」というキャプションと笑っている絵文字があるだけだ。 このプラットフォームに詳しいXユーザーなら、マスク氏の投稿をクリックして元のユーザーの投稿に移動し、開示事項を確認できることを知っているかもしれない。マスク氏のキャプションには、そうするように指示する内容はない。 2024年の選挙について知っておくべきこと民主主義: アメリカの民主主義は2020年以来、大きなストレステストを乗り越えてきました。 2024年にはさらなる課題が待ち受けています。AP の役割: AP通信は選挙当夜の最も信頼できる情報源であり、その正確さは1848年まで遡ります。 もっと詳しく知る。最新情報を入手してください。 最新ニュースの電子メールアラートで最新ニュースを常に把握しましょう。 こちらから登録。 Xの「コミュニティノート」機能の参加者の中には、投稿に文脈を加えるためにマスク氏の投稿にラベルを付ける提案をしている人もいるが、日曜日の午後の時点でそのようなラベルは付けられていなかった。オンラインの一部のユーザーは、彼の投稿が Xのポリシーでは、ユーザーは「人を欺いたり混乱させたりして危害を加える可能性がある合成、操作、または文脈から外れたメディアを共有してはならない」としている。 このポリシーには、ミームや風刺については「メディアの信憑性について重大な混乱」を引き起こさない限り、例外が設けられています。 マスク氏は今月初め、共和党候補のドナルド・トランプ前大統領を支持した。レーガン氏もマスク氏も日曜の電子メールによるコメント要請に直ちには応じなかった。AI生成メディアを専門とする2人の専門家が偽広告の音声を検証し、その多くがAI技術を使用して生成されたことを確認した。そのうちの一人、カリフォルニア大学バークレー校のデジタルフォレンジック専門家ハニー・ファリド氏は、このビデオは生成AIとディープフェイクの威力を示すものだと語った。「AIが生成した音声は非常に優れている」と彼は電子メールで述べた。「ほとんどの人はそれがハリス副大統領の声だと信じないだろうが、言葉が彼女の声で書かれていることで、ビデオはより強力になっている」同氏は、音声クローンツールやその他のAIツールを一般に公開している生成AI企業は、自社のサービスが人々や民主主義に害を及ぼすような方法で使用されないように、より一層の対策を講じるべきだと述べた。擁護団体パブリック・シチズンの共同代表ロブ・ワイスマン氏はファリド氏に反対し、多くの人がこのビデオに騙されるだろうと述べた。 「これは明らかにジョークではないと思います」とワイズマンはインタビューで語った。「これを見たほとんどの人は、これがジョークだとは思わないはずです。質は良くありませんが、十分です。そして、これが彼女を取り巻く既存のテーマに関係しているからこそ、ほとんどの人はこれが本物だと信じるのです。」議会、連邦政府機関、各州政府に生成AIの規制を訴えてきた団体のワイスマン氏は、このビデオは「私たちが警告してきた類のもの」だと述べた。米国やその他の国々で、AIディープフェイク生成ツールは、誤情報やユーモア、あるいはその両方で有権者に影響を与えようとした。2023年のスロバキアでは、 偽の音声クリップ 投票の数日前に、不正選挙やビール価格引き上げの計画を議論する候補者になりすました。2022年にルイジアナ州では、政治活動委員会の 風刺広告 ルイジアナ州の市長候補の顔を、成績不振の高校生を演じる俳優の顔に重ね合わせた。 議会は政治におけるAIに関する法案をまだ可決しておらず、 連邦政府機関…