世界

「ユニバーサル」検出器は、記録的な正確さでAIディープファークビデオをスポットします

スマートフォン上のオーストラリアのアンソニー・アルバネーゼ首相のディープフェイクビデオオーストラリアのAP通信/アラミー ユニバーサルディープフェイク検出器は、人工知能によって操作または完全に生成された複数のタイプのビデオを発見する際に、最良の精度を達成しました。このテクノロジーは、無関心なAIに生成されたポルノ、ディープファーク詐欺、または選挙誤報ビデオにフラグを立てるのに役立つかもしれません。 安価なAIを搭載したDeepFake Creation Toolsの広範な利用可能性により、合成ビデオの制御不能なオンラインスプレッドが促進されました。多くの人は、有名人や女子学生を含む女性を非同意的なポルノで描いています。また、ディープフェイクは、政治的選挙に影響を与えたり、普通の消費者と会社の幹部の両方を対象とした金融詐欺を強化するためにも使用されています。 しかし、合成ビデオを検出するために訓練されたほとんどのAIモデルは、顔に焦点を当てています。つまり、実際の人の顔が既存のビデオに交換される特定のタイプのディープファークを見つけるのに最も効果的です。 「対面で操作されたビデオと、背景操作または完全に生成されたビデオを検出できるモデルが1つ必要です」と、カリフォルニア大学リバーサイド校のRohit Kundu氏は述べています。 「私たちのモデルは、まさにその懸念に取り組んでいます。ビデオ全体が合成的に生成される可能性があると想定しています。」 Kunduと彼の同僚は、AIを搭載したユニバーサル検出器を訓練して、ビデオの複数の背景要素と人々の顔を監視しました。それは、ディープフェイクの空間的および時間的な矛盾の微妙な兆候を見つけることができます。その結果、顔のスワップビデオに人工的に挿入された人々、完全にAI生成されたビデオの背景の詳細の矛盾、さらには人間の顔を含む合成ビデオのAI操作の兆候さえも、一貫性のない照明条件を検出できます。また、検出器は、AIによって必ずしも生成されるとは限らないGrand Theft Auto Vなどのビデオゲームの現実的なシーンにフラグを立てます。 「ほとんどの既存の方法は、フェイススワップ、リップシンクビデオ、単一の画像から顔をアニメーション化する顔の再現など、AIの生成されたフェイスビデオを処理します」と、ニューヨークのバッファロー大学のSiwei Lyu氏は言います。 「この方法には、より広い適用範囲があります。」 ユニバーサル検出器は、顔が操縦されたディープフェイクを含む4セットのテストビデオを特定する際に、95％から99％の精度を達成しました。これは、このタイプのディープファークを検出するための他のすべての公開された方法よりも優れています。完全に合成ビデオを監視する場合、これまでに評価された他のどの検出器よりも正確な結果が得られました。研究者は、6月15日にテネシー州ナッシュビルでのコンピュータービジョンとパターン認識に関する2025 IEEE/会議で作業を発表しました。 いくつかのGoogle研究者も、新しい検出器の開発に参加しました。 Googleは、この検出方法がYouTubeなどのプラットフォームでディープフェイクを見つけるのに役立つかどうかについての質問に応答しませんでした。しかし、同社は、AIシステムによって生成されたコンテンツを簡単に識別できるようにする透かしツールをサポートしている人々の1つです。 普遍的な検出器も将来改善することができます。たとえば、ライブビデオ会議の呼び出し中に展開されたディープフェイクを検出できれば役立ちます。これは、一部の詐欺師がすでに使用し始めているトリックです。 「反対側の人が本物であることをどのように知っていますか、それともディープフェイク生成ビデオであるか、これはビデオがネットワークを越えて移動し、利用可能な帯域幅などのネットワークの特性の影響を受けている場合でも決定できますか？」カリフォルニア大学リバーサイド校のアミット・ロイ・チョウドリーは言います。 「それは私たちが研究室で見ている別の方向です。」 トピック： #ユニバーサル検出器は記録的な正確さでAIディープファークビデオをスポットします