1717300236
2024-06-02 02:17:00
AIディープフェイクが他の選挙でも大混乱を引き起こしていることから、専門家は英国の政治家は備える必要があると警告している。
「朝食に何を食べたか教えてください」と、ControlAI の Mike Narouei 氏がノートパソコンで録音しながら言う。私はトースト、コーヒー、そして彼らのオフィスまでの道のりについて 15 秒ほど話す。
数秒以内に、まったく違うことを言っている自分の声が聞こえてきます。
この場合、私が書いた言葉は、「ディープフェイクは極めてリアルであり、政治を混乱させ、民主的なプロセスに対する信頼を損なう可能性があります。」
私たちは無料のソフトウェアを使用しました。高度な技術は必要ありませんでしたし、全体の作業にほとんど時間がかかりませんでした。
これは音声ディープフェイクだ。動画のものは制作にもっと手間がかかる。あらゆる種類の詐欺師が利用しているだけでなく、米国、インド、英国を含む数十カ国で約20億人が投票に行く年に、選挙への影響について深い懸念がある。
サー・キール・スターマー 昨年の労働党大会で犠牲になった彼がスタッフに悪態をついている様子を撮影したと思われる写真が、すぐに偽物だと発覚した。誰が作ったのかは、いまだに明らかにされていない。
ロンドン市長サディク・カーン 今年も標的となった彼が追悼週末について煽動的な発言をし、親パレスチナのデモを呼び掛ける偽の音声が、地域社会にとって緊迫した時期に拡散した。彼は、デモを阻止するには新たな法律が必要だと主張した。
英国国立サイバーセキュリティセンターの元所長キアラン・マーティン氏はスカイニュースに対し、高額な費用をかけて作られた偽のビデオは音声よりも効果が低く、見破りやすいと語った。
「私は現在、音声について特に心配しています。音声ディープフェイクは驚くほど簡単に作れるからです。不気味なほど簡単です」と同氏は言う。「そして、巧妙に展開されれば、大きな影響を与える可能性があります。」
彼の見解では、最も損害を与えたのは バイデン大統領の音声ディープフェイク今年1月のニューハンプシャー州予備選挙中に有権者に送られた。
大統領の声をかけた「ロボコール」が有権者に、家に留まり11月の大統領選挙のために投票を「温存」するよう呼びかけた。後に政治コンサルタントが犯行を認め、起訴され、600万ドル（470万ポンド）の罰金を科された。
続きを読む：
インドのデジタル選挙
規制当局がAIの脅威に対処する時間は残り少なくなっている
バイデン氏、包括的なAI規制を発表へ
元NCSC所長キアラン・マーティン
現在オックスフォード大学ブラバトニック行政大学院の教授であるマーティン氏は、「これは彼の声の非常に信憑性のある模倣であり、一部の人々がそれに騙されたことを示唆する逸話的な証拠がある」と述べた。
「それは、他の人に転送して見てもらうことができるメールでもなければ、大勢の人が見ているテレビでもなかったからだ。それは自宅にかかってきた電話であり、多かれ少なかれ一人で判断しなければならなかった。」
「特に標的型音声は、おそらく現在最大の脅威であり、包括的な解決策はなく、お金を払うか適切な法律を制定する覚悟があれば、ボタンを押すだけでこの問題を解消できるような方法はありません。」
「必要なのは、そして米国が2020年に非常にうまくやったのは、損害を制限し、軽減するために、選挙制度のさまざまな部分にわたって責任ある十分な情報を持った目と耳を揃えることだ」
同氏は、ディープフェイクがまだ選挙に大規模な損害を与えていないのに、その脅威を煽るのは危険だと述べている。
同氏は、モスクワでのテロ攻撃の責任をウクライナ当局者が負うという内容の、ロシアが制作したウクライナテレビの偽放送は、高額な費用をかけて制作されたにもかかわらず、単純に「信じてもらえなかった」と述べた。
英国政府は、国の民主的プロセスへの外国の干渉に対する新たな犯罪を盛り込んだ国家安全保障法案を可決した。
オンライン安全法はテクノロジー企業にそのようなコンテンツを削除することを義務付けており、選挙前の期間中はソーシャルメディア企業との会合が定期的に開催されている。
民主化運動家たちは、ディープフェイクが敵対的な外国勢力や、プロセスを妨害しようとする単独の個人だけでなく、政党自身によっても使用される可能性があることを懸念している。
ポリー・カーティス氏はシンクタンク「デモス」の最高経営責任者で、同団体は各政党に対し、AIの利用に関する一連のガイドラインに合意するよう呼びかけている。
デモスの最高経営責任者、ポリー・カーティス氏
彼女はこう語った。「リスクは、外国人俳優や政党が現れ、街頭でコンテンツを作成し、何が真実で何が真実でないかという混乱を引き起こすことだ。」
「我々は彼らが集まって、選挙でこれらのツールをどのように使うかについて合意することを望んでいます。我々は彼らが、創造的破壊を起こさないことに同意することを望んでいます。 人工知能 またはそれを増幅し、使用時にラベルを付けます。
「この技術は非常に新しい上に、非常に多くの選挙が行われているため、選挙運動中に大きな誤報が発生し、人々が入手した情報に対する信頼に影響を与え始める可能性がある。」
ディープフェイクはすでに主要な選挙の標的となっている。
昨年、スロバキア大統領選挙の投票締め切り数時間前に、候補者の一人が不正選挙を主張するフェイク音声が拡散した。その候補者は大敗し、親ロシア派の対立候補が勝利した。
英国政府は今年初め、脅威が発生した際に対応するため、政府関係者が警察や治安機関と連携して合同選挙安全準備ユニットを設立した。
英国政府の報道官は「安全は最も重要であり、いかなる妨害も防ぐための強固なシステムを導入し、選挙の公正性を確保する準備は万全だ」と述べた。
「国家安全保障法にはディープフェイク選挙の脅威に対処するためのツールが含まれており、ソーシャルメディアプラットフォームも選挙への干渉を目的とした国家支援のコンテンツに対して積極的に行動するべきだ。」
労働党の広報担当者は「我々の民主主義は強固であり、選挙の公正さを損なういかなる試みも許すことはできないし、許すつもりもない」と述べた。
「しかし、AI技術の急速な進歩により、政府はディープフェイクや偽情報を使って民主主義制度への信頼を損なおうとする悪意ある行為者より常に一歩先を行く必要がある。」
「労働党はこうした脅威に容赦なく対抗するだろう」
#総選挙を台無しにする可能性のある音声ディープフェイクの危険性について英国の政治家に警告 #政治ニュース