選挙ディープフェイクによって私たちがどのようにディープフェイクされたのか

エディターズ ダイジェストを無料でアンロックする

FT 編集者の Roula Khalaf が、この週刊ニュースレターでお気に入りの記事を選びました。

昨年の今頃、あなたはおそらく、2024 年の豊作の世界選挙に対する生成人工知能の影響についての悲惨な警告を何十冊も読んだでしょう。

ディープフェイクは政治的な偽情報を増大させ、混乱した有権者は現実的で個人化された嘘の海の中で事実とフィクションを区別できなくなるだろうとの話だ。サディク・カーンから教皇に至る指導者たちは彼らに対して反対の声を上げた。世界経済フォーラムが専門家を対象に行った調査では、AIの偽情報が2024年に2番目に差し迫ったリスクとしてランク付けされている。

案の定、数十の例が広く報告されました。ジョー・バイデンの「声」 ロボコールで 予備選挙有権者に家にいるよう促した。マリーヌ・ルペン氏の家族の実在しない人物が人種差別的なジョークを言っているAIが生成した動画は、TikTokで何百万回も視聴された。 偽のオーディオクリップ キーア・スターマー卿が職員を罵倒した様子がXで話題になった。

しかし多くの専門家は現在、AIの偽情報が懸念されていたほど広範囲に広がっていたり、影響力があったという証拠はほとんどないと考えている。

アラン・チューリング研究所 特定された 夏のイギリス、フランス、EU の選挙中に AI によって生成されたバイラル コンテンツは、合わせてわずか 27 件でした。選挙に関して最も広く共有された政治ディープフェイクを認識した英国人は 20 人に 1 人程度だけでした。 別の研究 見つかった。

米国ではニュース・リテラシー・プロジェクト カタログ化された 大統領選挙に関する誤った情報の例は約 1,000 件あります。生成 AI が関与しているのはわずか 6% でした。 TikTokによると、投票日が近づいてもAI生成コンテンツの削除は増加しなかったという。

フィナンシャル・タイムズ紙の分析によると、Xのユーザー投稿ファクトチェックシステム「コミュニティノート」における「ディープフェイク」や「AI生成」などの用語の言及は、主要な選挙よりも新しい画像生成モデルのリリースとの相関が高いことが判明した。

この傾向は非西側諸国でも同様で、ある調査によると、バングラデシュの1月の選挙に関する誤った情報のうち、ディープフェイクはわずか2％だった。南アフリカの二極化した選挙はAIの「予想外の欠如によって特徴づけられた」、 研究者らは結論付けた。

マイクロソフト、 メタ そして OpenAI AIを利用して今年の選挙に影響を与えようとする海外の秘密工作を暴露したとすべての報道が報じたが、広範な聴衆を獲得することに成功したものはなかった。

人気を博した選挙関連の AI コンテンツの多くは、有権者を騙すことを目的としたものではありませんでした。その代わりに、このテクノロジーは感情的な議論によく使用され、たとえそれが明らかに非現実的であっても、特定の物語を支持していると感じられる画像を作成しました。

集会で演説するカマラ・ハリス ソ連の国旗で飾られたたとえば、イタリアの子供が ゴキブリの乗ったピザ （昆虫食に対するEUの想定される支援に関連して）。インドネシアとインドでの選挙運動を支援するため、亡くなった政治家が「復活」した。

パデュー大学のAI政策と倫理の専門家ダニエル・シフ氏によると、こうした「象徴的、表現的、または風刺的なメッセージ」は、従来の説得やプロパガンダ戦術と一致しているという。パーデュー大学のチームが特定した政治ディープフェイクの約40パーセントは、少なくとも部分的に風刺や娯楽を目的としたものだった。

「嘘つきの配当」はどうでしょうか？これは、自分たちを悪く見せる正当なコンテンツが AI によって生成されたものであると人々が主張し、有権者にもう何も信じられないと感じさせる可能性があるという考えです。

戦略的対話研究所 分析 ソーシャルメディア上の政治的なコンテンツをめぐって混乱が広がり、ユーザーが実際の画像をAIが生成したものと誤認することが頻繁にあることがわかった。しかし、ほとんどの人はそのような主張に対して健全な懐疑論を適用することができます。ピュー・リサーチによると、候補者に関するどのニュースが真実なのかを理解するのが難しいと答えた米国の有権者の割合は、2020年から2024年の選挙の間に減少した。

オックスフォード大学ロイター・ジャーナリズム研究所の研究者フェリックス・サイモン氏は、「私たちは何年も前からPhotoshopを使ってきたが、今でも写真を大部分信頼している」と語る。彼はディープフェイクの恐怖が誇張されているという著書がある。

もちろん、油断はできません。 AI テクノロジーとその社会的影響は急速に進歩しています。ディープフェイクは、手の込んだなりすまし詐欺やポルノ嫌がらせや恐喝など、他のシナリオでも危険なツールであることがすでに証明されています。

しかし、政治的な偽情報に関しては、本当の課題は変わっていない。政治的な二極化からTikTokによるメディアダイエットに至るまで、そもそも人々が虚偽を喜んで信じて共有する理由に取り組むことだ。ディープフェイクの脅威が見出しを飾るかもしれませんが、それを気晴らしにしてはいけません。

[email protected]