ディープフェイクを見分ける方法: 有権者は見るものが増え、その影響力を恐れている

トランプ前大統領がペンシルベニア州バトラーで暗殺未遂事件を生き延びてから数週間後、 ソーシャルメディアで拡散されたビデオ その映像には、カマラ・ハリス副大統領が集会で「ドナルド・トランプは尊厳を持って死ぬことさえできない」と発言している様子が映っていた。

このクリップは怒りを引き起こしたが、それは見せかけだった――ハリスはそんなことは決して言っていない。このセリフはAIが生成した不気味なほどハリスの声に似た声で読み上げられ、ハリスが実際に行ったスピーチにつなぎ合わされた。

ある情報によれば、有権者の大部分がこの種の操作を見ており、選挙への影響について懸念が高まっているという。 新しい調査 市場調査会社 3Gem による成人 2,000 人の調査。サイバーセキュリティ企業マカフィーが委託したこの調査では、インタビューを受けた人の63％が過去60日間にディープフェイクを見たことがあり、15％は10回以上ディープフェイクにさらされたことが判明した。

調査によると、さまざまなディープフェイクへの露出は全国的にほぼ均一で、政治的なディープフェイクが最もよく見られたタイプであるという。しかし、政治をテーマにしたディープフェイクは、投票が大統領選挙を決定する可能性がある激戦州であるミシガン州、ペンシルベニア州、ノースカロライナ州、ネバダ州、ウィスコンシン州で特に蔓延していた。

ほとんどの場合、ディープフェイクはパロディであると調査回答者は述べています。少数派 (40%) は誤解を招くように設計されていました。しかし、パロディや欺瞞的でないディープフェイクであっても、視聴者の偏見を裏付けたり、メディアに対する信頼を低下させたりすることで、潜在的に視聴者に影響を与える可能性があると、精神保健サービスを全国的に提供するスライブワークスの最高カウンセリング責任者であるライアン・カルキン氏は述べた。

「すでにストレスの多い時期に、さらに新たな層が加わるだけだ」とカルキン氏は語った。

マカフィーに関する調査対象者の圧倒的多数（91%）は、ディープフェイクが候補者に対する一般の印象を変えたり、選挙結果に影響を与えたりすることによって選挙に干渉することを懸念していると述べた。ほぼ 40% が非常に懸念していると回答しました。おそらく時期のせいかもしれないが、ディープフェイクが選挙に影響を与えたり、国民にガスライティングをしたり、メディアの信頼を損なったりするのではないかという懸念が1月の調査から大幅に高まっている一方、ネットいじめ、詐欺、フェイクポルノに利用されるディープフェイクについての懸念はすべて低下したと調査結果は述べている。見つかった。

その他の 2 つの注目すべき調査結果: 回答者 10 人中 7 人は、少なくとも週に 1 回は、それが本物なのか AI が生成したのか疑問に思うような資料に遭遇したと回答しました。 10人中6人が、その質問に答える自信がないと答えた。

現時点では、広告内のディープフェイクを特に禁止する連邦法やカリフォルニア州の法律はありません。ギャビン・ニューサム知事は先月、選挙後120日以内に欺瞞的でデジタル的に改変された選挙運動資料を禁止する法案に署名したが、連邦判事は 一時的にブロックしました 修正第 1 条の根拠に基づいて。

法律事務所ブランク・ローマのパートナーでプライバシー法の専門家であるジェフリー・ローゼンタール氏は、カリフォルニア州法では選挙後60日以内の「著しく欺瞞的な」選挙広告を禁止していると述べた。同州による広告のディープフェイクに対する障壁強化は来年まで発動されないが、新法により政治広告にAI生成コンテンツが含まれている場合はラベル表示が義務付けられると同氏は述べた。

ディープフェイクに対してできること

マカフィーは、サービスを提供する数社のうちの 1 つです。 ソフトウェアツール AI が生成したコンテンツを含むメディアを嗅ぎ分けるのに役立ちます。他の二人は ひや そして ビットマインド、ディープフェイクの疑いを警告する Google Chrome ブラウザー用の無料拡張機能を提供します。

シアトルにある Hiya のマーケティング担当副社長であるパッチェン・ノエルケ氏は、同社のテクノロジーは音声データを調べて、人間ではなくコンピューターによって生成されたことを示唆するパターンを見つけていると語った。これはいたちごっこだ、とノエルケ氏は言う。詐欺師は検出を回避する方法を考え出すだろうし、Hiya のような企業はそれに対応するだろう。

テキサス州オースティンにあるビットマインド社の共同創設者、ケン・ジョン・ミヤチ氏は、現時点では同社の技術は静止画像にのみ機能するが、今後数カ月以内にビデオやオーディオファイル内のAIを検出するアップデートが行われる予定だと述べた。しかし、現時点ではディープフェイクを生成するツールがディープフェイクを検出するツールよりも進んでいると同氏は述べ、その理由の一部は「生成側に大幅に多くの投資が行われている」ためだと述べた。

これが、マカフィーの最高技術責任者スティーブ・グロブマン氏がオンラインで目にする資料に対する健全な懐疑論を維持するのに役立つ理由の 1 つです。

同氏は、「私たちは皆、ディープフェイクの影響を受けやすい可能性がある」と述べ、「特に、私たちがすでに持っている自然な偏見を裏付ける場合にはそうだ」と述べた。

また、人工知能によって生成された画像や音声は、本物の素材に埋め込まれる可能性があることにも留意してください。 「ビデオを撮影し、そのほんの 5 秒を操作するだけで、雰囲気やメッセージが大きく変わります」とグロブマン氏は言います。

「大きく変える必要はないよ。スピーチに適切なタイミングで一文を挿入するだけで、意味が大きく変わることがあります。」

ジョシュ・ベッカー州上院議員（民主党、メンローパーク）は、AI生成コンテンツのさらなる開示を義務付ける少なくとも3つの州法が来年施行予定であると指摘した。 カリフォルニア州 AI 透明性法。こうした措置を講じたとしても、州は依然として偽情報を発見し阻止するために住民が積極的な役割を果たす必要があると同氏は述べた。

同氏は、人々ができる主な4つのことは、強い感情を引き起こすコンテンツに疑問を抱くこと、情報源を確認すること、信頼できる情報源からの情報のみを共有すること、疑わしいコンテンツを選挙当局とそれが共有されているプラットフォームに報告することだ、と述べた。ベッカー氏は、「何か非常に感情的に襲われた場合は、一歩下がって、それがどこから来たのかを考える価値があるだろう」と語った。

McAfee は Web サイトで次のサービスを提供しています。 ヒントのセット ディープフェイクの可能性を特定し、選挙関連の詐欺を回避し、偽のメディアを広めないことに対して。これらには次のものが含まれます。

• 文章では、繰り返し、浅い推論、事実の不足に注意してください。同サイトは、「AIは多くを語らずに多くのことを言うことが多く、情報を知っているように見せるために大量の重要な語彙の陰に隠れている」とアドバイスしている。
• 画像と音声をズームインして、発言者の不一致や奇妙な動きを探し、表示されているものと一致しない音を聞きます。
• 他の十分に確立されたサイトのコンテンツを使用して資料を裏付けるようにしてください。
• 何事も額面通りに受け取らないでください。
• 情報源を調べ、その資料が抜粋である場合は、文脈に沿って元のメディアを見つけてください。

自分の目で見たもの、または 100% 信頼できる情報源から見たもの以外のものについては、「フォトショップで加工されている可能性があると考えてください」とグロブマン氏はアドバイスします。同氏はまた、詐欺師が公式選挙サイトを複製し、投票所の場所や営業時間などの詳細の一部を変更するのは簡単だと警告した。

だからこそ、投票関連サイトは URL が .gov で終わる場合にのみ信頼すべきだと同氏は述べ、「どこから始めればよいか分からない場合は、から始めればよい」と付け加えた。 Vote.gov」このサイトでは、選挙と投票権に関する情報に加え、各州の公式選挙サイトへのリンクも提供しています。

「デジタル世界の多くが偽物である可能性があるため、周囲の信頼が低下します」とグロブマン氏は述べた。同時に、「不正行為、犯罪、非倫理的行為の正当な証拠がある場合、それが偽物であったと主張するのは非常に簡単です。 …証拠が存在する場合に個人の責任を問う私たちの能力も、デジタルフェイクの蔓延によって損なわれています。」