AIを使って自分の声を複製したところ、結果は恐ろしいものだった…DailyMail.com、ニューハンプシャー州の有権者を騙すためにジョー・バイデン大統領の演説を再現したアプリを試行

ニューハンプシャー州の住民は、予備選挙をスキップするよう告げる奇妙な電話を受けた。電話の相手側ではジョー・バイデンのように聞こえたが、それは彼の声のAIクローンだった。

匿名の詐欺師がアプリ「イレブン・ラボ」を使って先月の攻撃でバイデン氏の声を再現した。私はAIでクローン化された音声がどれほど信憑性があるかを確かめるためにアプリをテストした。

AI が生成した音声により、友人はメッセージが本当に私からのものであると思い込まされました。

「なぜ私にボイスメモを送ったのですか」と友人はメッセージに返信しました。 「普段はメールだけですが、連絡をもらえると嬉しいです!」

父も、偽声に騙されただろうと認め、妻が短いメッセージを聞いて「なんてことだ、橋から投げ落としたい」と言ったそうです。

このようなアプリについては以前にも聞いたことがありましたが、クローンには常に特典や明らかな兆候があるだろうと単純に考えていたのかもしれません。一方、この声を使えば、親しい家族から友人、同僚に至るまで、あらゆる人を騙すことができると私は 100 パーセント確信しています。

イレブン ラボ アプリを使用するには、あなたの声を 10 分間録音する必要がありますが、AI に入力する量が増えるほど、音声の精度が高まります。

その結果、私の口調と言葉の使い方に関するすべてが記録されました。言葉の合間に「えーっと」や「ああ」と言う傾向があることや、質問するときにどのように声の高さを上げているかなどです。

言葉の間で「えーっと」「ああ」と言ってしまう癖から、質問するときの声の張り方まですべてが捉えられていました。

ニューハンプシャー州での襲撃事件では、同じアプリを使って住民に「今週火曜日の投票だけで共和党はドナルド・トランプ氏の再選を目指すことができるようになる」と呼びかけた。 あなたの投票が今週の火曜日ではなく11月に変化をもたらす』と被害者たちは電話で聞いた。

恐ろしいのは、録音はリアルタイムで生成されるため、簡単に会話をしたり、先月起こったような偽メッセージキャンペーンを実行したりできることです。

たとえば、父親に電話して、緊急の場合にお金を振り込んでもらうことができます。

さらに、誰でも私に対してアプリを使用して私の声を複製し、私の身分を使って詐欺を行うことができます。

俳優やバイデン大統領のような政治家など、大量の公の音声録音を持っている人にとっては、不気味なほど説得力のあるクローンを作成するのに十分な音声データが「世に出ている」ことがすでに存在します。

イレブン ラボは、これを実行できるいくつかのアプリのうちの 1 つにすぎません (また、「プロフェッショナル」音声を作成する前に、キャプチャなどの画面上でいくつかの単語を話す必要がある賢いセキュリティ機能があることに注意してください)あなたの声のために）。

しかし、クローン音声を使って人々を騙す詐欺は「ますます蔓延している」とNordVPNのサイバーセキュリティ専門家アドリアヌス・ワルメンホーフェン氏は述べた。

サイバーセキュリティ企業マカフィーの調査によると、回答者のほぼ 4 分の 1 が何らかの AI 音声詐欺を経験しているか、ターゲットにされた人物を知っており、結果として 78% が金銭を失っています。

昨年、ルースさんとグレッグさんの老夫婦は孫から電話を受け、刑務所に入っているのでお金が必要だと言われたが、その声はAIの偽物だった。

マイクロソフトは同年、3 秒間の音声サンプルから誰の音声も合成できるテキスト読み上げ AI モデルのデモンストレーションも行いました。

ワルメンホーフェン氏は、「クローン」音声の背後にある技術は急速に進歩しており、価格も下がっているため、より多くの詐欺師が利用できるようになっていると述べた。

イレブン ラボの「プロフェッショナル」音声にアクセスするには、月額 10 ドルのサブスクリプションを支払う必要があります。

他の AI アプリでは、保護機能が不十分なため、犯罪者が詐欺を犯しやすくなる場合があります。

「この種の詐欺に対するユーザーの脆弱性は、犯罪者が音声クローン作成に使用できる音声サンプルの数に大きく依存します」とWarmenhoven氏は述べています。

「クローン」音声の背後にある技術は急速に進歩しており、価格も下がっているため、より多くの詐欺師が利用できるようになっています。 イレブン ラボの「プロフェッショナル」音声にアクセスするには、月額 10 ドルのサブスクリプションを支払う必要があります

「声のクローンが多ければ多いほど、より説得力のある音声クローンを作成できるようになります。 したがって、犯罪者がイベント、メディアのインタビュー、スピーチなどの録音を使用する可能性があるため、政治家、著名人、有名人は非常に脆弱になります。

また、インスタグラムやティックトックなどのソーシャルネットワークに自分の動画をアップロードする人も危険にさらされる可能性があると警告した。

「ユーザーが自発的にソーシャルメディアにアップロードするビデオコンテンツも大量にあります。 したがって、ユーザーがソーシャルメディア上で公開されている動画が増えれば増えるほど、そのユーザーはより脆弱になります」とワルメンホーフェン氏は続けた。

「ソーシャルメディアに投稿する内容には注意してください。 ソーシャル メディアは、サイバー犯罪者にとって音声サンプルの公的に利用可能な最大のリソースです。

ソーシャル メディアに何を投稿するか、そしてそれが自分のセキュリティにどのような影響を及ぼす可能性があるかを懸念する必要があります。」

また、詐欺師があなたと電話で会話し、クローン作成用の音声データを収集することで、あなたの声のクローンを試みる可能性もあると彼女は述べた。

「詐欺師は、最初の電話で常に金銭やデータを強要することを目的としているわけではありません。 音声クローン作成に十分な音声サンプルを収集することも、この呼びかけの目的である可能性があるとワルメンホーフェン氏は説明した。

「詐欺師と通話していることに気づいたら、電話を切り、あなたの声を録音する機会を与えないでください。 通話中に話せば話すほど、犯罪者はあなたの声のサンプルをより多く取得し、より高品質のクローンを生成することになります。