科学＆テクノロジー

イーロン・マスクのディープフェイク版がいかにしてインターネット最大の詐欺師になったか | 世界ニュース

ディープフェイク検出ソフトウェアによると、昨年末以降、ディープフェイク詐欺のほぼ4分の1にテスラのCEO、イーロン・マスクが登場している | 写真：ロイター3分で読む 最終更新日: 2024 年 8 月 14 日 |午後10時18分 は スチュアート・A・トンプソン著 スティーブ・ボーシャンが望んでいたのは、家族のためのお金だけだった。そして彼は、イーロン・マスクが助けてくれると考えていた。 82歳の退職者であるボーシャン氏は昨年末、マスク氏が急速な利益を約束する過激な投資機会を推奨する動画を見た。同氏はその宣伝の背後にある企業に連絡し、248ドルで口座を開設した。数週間にわたる一連の取引でボーシャン氏は退職金口座の資金を使い果たし、最終的に69万ドル以上を投資した。 そして、お金は消えた。人工知能を駆使した新たな犯罪組織の最前線にいるデジタル詐欺師たちの手に落ちたのだ。詐欺師たちは、マスク氏への本物のインタビューを編集し、AIツールを使ってマスク氏の声をレプリカに置き換えていた。AIは非常に洗練されており、デジタル偽物用に書いた新しい台本に合わせて口の動きを細かく変えることができた。一般の視聴者には、この操作は気づかれないほどだったかもしれない。 「つまり、彼の写真、それは彼だった」と、自分が見たマスクのビデオについてボーシャン氏は語った。「さて、彼が言ったことをAIが彼に言わせたのかどうかは、私にはよく分からない。しかし、写真に関して言えば、誰かが『彼を一行の中から選んで』と言ったなら、それは彼だ」 ディープフェイクとして知られるこうしたAI駆動型動画は、ここ数カ月で何千本もインターネット上にあふれており、偽のマスク氏が投資家志望者を騙す様子が映し出されている。デロイトの推計によると、AI駆動型ディープフェイクは毎年、詐欺による損失に数十億ドルの寄与をすると見込まれている。 動画の制作費はわずか数ドルで、数分で作れる。フェイスブックの有料広告などソーシャルメディアで宣伝され、リーチを拡大している。「おそらくディープフェイクを使った詐欺としては史上最大規模だ」と、ディープフェイクの監視と検出を行う企業、センシティの共同創業者で脅威情報部門の責任者、フランチェスコ・カヴァッリ氏は言う。 動画は不気味なほどリアルなものが多く、マスク氏の特徴的なぎこちない話し方や南アフリカなまりが再現されている。2,000本以上のディープフェイクを分析したセンシティによると、動画に登場するスポークスマンはこれまでマスク氏が圧倒的に多かったという。 センシティの調査によると、昨年末以降、ディープフェイク詐欺の約4分の1に彼が登場している。暗号通貨に焦点を当てた動画では、約90％の動画に彼が登場している。 ディープフェイク広告には、著名な投資家ウォーレン・バフェット氏やアマゾンの創設者ジェフ・ベゾス氏なども登場した。 マスク氏はコメントの要請に応じなかった。 ネット上に出回っているディープフェイクの数を正確に数えるのは難しいが、詐欺を宣伝する一般的な言葉についてFacebookの広告ライブラリを検索したところ、数十万の広告が見つかり、その多くにディープフェイク動画が含まれていた。Facebookはすでにポリシー違反を理由にその多くを削除し、責任のあるアカウントの一部を無効にしているが、他の動画はネット上に残っており、毎日のように新たな動画が登場しているようだ。 YouTube にも偽動画があふれており、多くの場合、動画が「ライブ」であることを示唆するラベルが付けられている。実際、これらの動画は事前に録画されたディープフェイクである。 ドナルド・J・トランプ前大統領が土曜日のビットコイン会議で講演した後、ユーチューブは「ライブ」ラベルを使って、イーロン・マスク氏が自分のアカウントに送られた仮想通貨を個人的に2倍にすると言う録画済みのディープフェイク版の動画を数十本公開した。動画の中には数十万人の視聴者がいたものもあったが、ユーチューブは詐欺師がボットを使って視聴者数を人為的に増やすことができるとしている。 YouTubeは声明で、1月から12月までにガイドラインに違反したとして1570万以上のチャンネルと820万以上の動画を削除したと述べた。 今年 3 月、そのほとんどがスパム対策ポリシーに違反していました。初版: 2024 年 8 月 14 日 |午後10時18分…