国連？ FBI？ 世界銀行？ ディープフェイク警察署長が報酬詐欺ビデオに使用される

前払い詐欺キャンペーンでは、テキストとビデオの両方で生成 AI を使用して、応答を迅速化し、フィルターを回避し、詐欺をより説得力のあるものにしています。

大規模言語モデルやその他の形式の生成 AI (GenAI) は、多くの人々の生産性を向上させることを約束しており、サイバー犯罪者も例外ではありません。 詐欺師は GenAI を使用して、消費者を中心とした大量キャンペーンから、ターゲットを絞ったビジネスメール侵害の試みまで、あらゆる種類の詐欺を強化しています。 注目を集めた事件には、 数千万ドルの損失。

過去 6 か月間、Netcraft は、ChatGPT で生成されたテキストの兆候を伴う前払い詐欺メールの増加と、被害者となる可能性のある人を説得し、詐欺をブロックするために使用される既存のフィルターを回避するように設計された新しいパターンのディープフェイク動画の増加に気づきました。 FBI、国連、世界銀行になりすました例。

前払い金詐欺は、詐欺師の間で長年人気のあるパラダイムです。通常、詐欺師は、受取人がお金を受け取るべきであることを示す一方的なメッセージから始まります。たとえば、ビジネスマンがお金を提供した、または「インターネット キャンペーン」などの競争で優勝したなどです。そして、比較的少額の手数料を支払うことで、その財産にアクセスできると考えられています。 しかし、想定されていた財産は存在しません。一度支払われると、詐欺師はその手数料を使い果たし、さらに障害物を発明して資金を引き出し続けるか、次の被害者に移ります。

よく見かける前金詐欺のもう 1 つのタイプは、補償金詐欺です。 詐欺師は、前述の誘惑の頻度を利用して、被害者と想定される資金を再会させることができると主張します。 これは、ファンドが存在したことのない詐欺師自身が手数料の支払いを要求するため、すでに他の形態の詐欺に陥っている人々をさらに利用することを目的としています。

「サンドラ・スティーブン」ディープフェイクは電子メールフィルターを回避するために使用されていた

Netcraft は最近、補償金詐欺の最初の誘いとしてディープフェイク動画を受け取りました。 メールには「この重要なビデオを開いて遵守してください」とだけ書かれていた。 この戦術は、テキストから典型的な詐欺の兆候を削除することで、主にテキストの分類に基づいてフィルタリングを行う一部のスパム フィルターを回避する可能性があります。

ディープフェイク動画を見ると、他にも詐欺の兆候があり、特に注目すべきは「Mrs.」というスクリプトの内容です。 サンドラ・スティーブン、連邦捜査局」は、「国連によって承認され」、現在は「世界銀行」によって管理されているはずの基金へのアクセスを得るために、リスナーに「総額120ドルを送金」するよう求めている。 このビデオは「資金の全額が私のオフィスにあります」と示しており、机の上にある下手に編集された現金の山が問題の資金を表していることを示唆しています。

不正行為の追加の指標は、商用 AI アバター ジェネレーターからの透かしです ワンダーシェア ビルボ。 ファイルのメタデータは、このビデオが最初に 2024 年 3 月 1 日に生成されたものであることを示しており、犯罪者が新しい製品やテクノロジーに積極的に適応している様子を示しています。 生成されたビデオに透かしデータが含まれている場合、悪用しているユーザー、ひいては犯罪インフラを特定できる可能性があります。

ディープフェイクの基礎となる画像は「サンドラ・スティーブン」どころかFBI職員のものではなく、代わりにキプロス国連平和維持軍の警視補兼上級警察顧問であるサトゥ・コイブの写真に基づいている。 2021 年 9 月に Facebook に最初に投稿された画像。 この事件で注目に値するのは、彼女の身元が信頼されておらず、一般的な前払い金詐欺の物語に置き換えられているということです。つまり、権威ある立場にある人なら誰でもこの方法でなりすますことができるということです。

Netcraft は、「Sandra Steven」を名乗る詐欺師とやり取りすることで、想定される「基金」に関する情報や銀行口座とビットコインのアドレスの詳細を要求するなど、詐欺のさらなる詳細を入手しました。

このビデオには多数の詐欺の兆候が含まれていましたが、これらの詐欺師がディープフェイクの作成に慣れてくるにつれて、将来的にはさらに説得力を増していくものと予想されます。

ChatGPT による犯罪幇助

Netcraft はまた、他の前払い詐欺師がメッセージをより説得力のあるものにするために大規模言語モデルを使用し、貧弱な文法などの一般的なメッセージを排除し、従来の大量電子メール キャンペーンで含めることができるものを超えたオーダーメイドの情報を含めていることを示す多数の証拠を発見しました。

犯罪者向けに販売されている特定の生成 AI ツールもありますが、次のようなものがあります。 詐欺GPT または ワームGPT、OpenAI によって設定されたモデレーション制約の一部を回避できる、いわゆる「Do Anything Now」モードのロックを解除する ChatGPT の「ジェイルブレイク」もあります。 ただし、ChatGPT は電子メールの下書きに合法的に使用できるため、犯罪専用のインフラストラクチャを必要とせずに、このツールを使用してこれらの電子メールを生成するのは簡単です。

エラーは、詐欺師が後で詐欺に気づいた可能性のあるユーザーを除外する方法として、最初の誘いメールに意図的に含まれていると考えられることがあります。 LLM を使用してそれらを修正することにより、詐欺師にとっては、すでに罠にかかっている被害者を失わないという利点があります。