DEF CON 今年の DEF CON ハッカー カンファレンスの AI ビレッジを訪れた人は、Brandon Kovacs のカメラの前に立つだけで、自分のディープフェイク ビデオに出演し、彼が自分を他の出席者のデジタル画像に変える様子を見ることができます。これは良い目的のためです。
コヴァックス氏はセキュリティ企業ビショップ・フォックスのシニア・レッドチームメンバーで、リアルタイムのビデオや音声のクローンを作成するのは今回が初めてではない。また、犯罪者がこれらの技術を使ってソーシャルエンジニアリング攻撃を改良することがいかに簡単であるかを実証している。
インタビューで 登録簿コヴァックス氏は、今年初めに起きたディープフェイクビデオ通話による2500万ドルの詐欺事件が彼の注目を集め、「研究の世界に引き込まれた」と語った。
この電話は2月に行われたもので、香港を拠点とする多国籍銀行の財務担当者が、ロンドンを拠点とする最高財務責任者と会って話していると思っていた。しかし、実際にはリアルタイムのディープフェイクと会話しており、そのディープフェイクに騙されて2,500万ドルの電信送金を行った。
「当時は『うわ、ひどい』と思った。でも同時に『どうやってやっているんだ？』とも思った。技術的な観点から本当に感心した」とコヴァックス氏は語った。
そこで彼はクローンを作成する相手を探し始め、ビショップ・フォックスの同僚であり、DEF CON ソーシャルエンジニアリング キャプチャー・ザ・フラッグ チャンピオンのアレテ・デニスを協力者として採用しました。
デニスは数多くのインタビュー、ポッドキャスト、ウェブキャストに出演し、いくつかの情報セキュリティ カンファレンスで講演しているため、彼女のイメージと声はインターネット中に広まっています。
コヴァックス氏は仮説を検証することにした。「オープンソースのツールを使って、インターネット上の公開情報だけを使って誰かのクローンを作ることはできるだろうか？」
その後、2人は公開されているデニスの映像を使って機械学習モデルを訓練した。プロ仕様のデジタル一眼レフカメラ、レンズ、照明、かつら、小道具、グリーンスクリーン、制作ソフトウェアを使用した。その結果、デニスのように見えるリアルタイム動画が生まれたが、実際にはデニスの自宅のオフィスと思われる場所に座っているコヴァックスの映像だった。
「ある時点で、私たちは『ディープフェイクチューリングテスト』と名付けたテストで、ディープフェイクのビデオと音声の出力を、マイクロソフトチームのカメラとマイクの入力としてルーティングしました」とコヴァックス氏は言う。 書きました リンクトインの投稿には動画も含まれている。「その後、私はライブビデオ通話で彼女の子供たちと話しましたが、子供たちは彼女の母親と話していると信じていました。」
子供を騙すのはいつも楽しいが、犯罪者が同様のテクニックで利益を得ると、そのジョークは意味をなさなくなる。
「MGMの文脈では [ransomware] 「ハッカーがITヘルプデスクに電話をかけ、組織内の誰かを装ってパスワードをリセットしようとする攻撃がありました。今度は、ハッカーが同じ能力を持ち、その人物を装うことができると想像してみてください」とコバックス氏は語った。
ディープフェイクの作成には、犯罪者や他のユーザーにとって、膨大なリソースは必要ありません。ユーザーがモデルをトレーニングしてディープフェイクを作成できる DeepFaceLab は、無料でダウンロードできます。Retrieval-based Voice Conversion (RVC) は、音声モデルをトレーニングするためのオープンソース プロジェクトです。消費者向けグラフィックス カードは、約 1,600 ドルで購入できます。
コヴァックス氏は、高級スタジオ照明とデジタル一眼レフカメラを使うと「標準的なウェブカメラを使う場合と比べて、シーンのリアリティや顔の入れ替えが大幅に向上する」と感じているが、「カメラ、レンズ、スタジオ照明、その他すべてに数千ドルを費やしても、2,500万ドルを盗むとなると、それはまだ大した金額ではない」と指摘している。
コヴァックス氏は、かつら、照明、グリーンスクリーン、その他の機材が入った「箱入りスタジオ」をラスベガスに持ち込み、DEF CON参加者に試用してもらう予定だ。
「その人物をリアルタイムで変形させて別人のように見せ、インタラクティブな環境、つまりスタジオやオフィスの環境にドロップして、リアルタイムで表示したときにどのように見えるかを実演しようというアイデアです」と同氏は語った。
コヴァックスが作成したビデオとオーディオのクローンは、DARPAのディープフェイク検出ツールに利用される。 セマンティックフォレンジックプログラム AI Villageでも実演されます。
「これは我々にとって新たな冒険だ」とDARPAのプログラムマネージャー、ウィル・コービー氏は語った。
AI村 プログラムメディアを分析するためのセマンティック技術の開発を目指す は設立から 4 年目を迎えます。その取り組みには、ビデオ、オーディオ、画像、テキストが生成または操作されたかどうかを判断する検出アルゴリズムの作成が含まれます。メディアが特定の組織または個人から発信されたものかどうかを判断する属性アルゴリズムも開発中です。
「私たちは、AIビレッジのDEF CONでスクリーンに表示されるプラットフォームを作成しました。これは基本的に、SM手段によって操作または合成されたビデオ、オーディオ、画像、テキストなどのトリアージユーティリティです」とコーベイ氏は語った。 登録簿「ディープフェイク動画は、人々の想像力を捉える手段の一つです。」
「そこで、私たちは分析の一部を DEF CON に持ち込み、このユーザー インターフェイスに組み込んで、この種のフォレンジック分析の現在のワークフローを人々が理解できるようにし、その結果、私たちが社会全体で可能な限り強力な情報トリアージ機能を持つために、レッド チームをどのように考えるべきかを理解するのに役立てています」と Corvey 氏は説明しました。®
#ライトカメラAIリアルタイム #ディープフェイクが #DEF #CON #に登場 #Register