FCCによるロボコールにおけるAIの禁止だけでは十分ではない

1月23日の米民主党ニューハンプシャー州予備選挙の数日前から、有権者候補者らにAIが生成した偽バイデン大統領の音声で、11月の本選挙まで投票しないよう促す電話が届き始めた。 スロバキアの有権者がフェイスブックに投稿した音声には、選挙を盗もうと計画している大統領候補のAIが生成した偽の音声が含まれており、これが選挙を別の候補に有利に傾けた可能性がある。 インドネシアと台湾の最近の選挙も、AIが生成した誤情報によって台無しになった。

ニューハンプシャー州での偽バイデンロボコールに対抗して、米国連邦通信委員会は2月8日、ロボコールにおけるAI生成音声を違法とする動きを見せた。 しかし、専門家は IEEEスペクトル 生成 AI が古いロボコール詐欺に新たな展開をもたらし、個人を騙す取り組みを加速する機会を提供しているにもかかわらず、話を聞いた人々は、この動きが十分であるとは確信していません。

発信者番号通知とスパムをブロックするアプリを開発する TrueCaller によると、2022 年の米国における詐欺やスパムによる損失総額は 395 億米ドルと考えられています。 通話保護およびアイデンティティ サービスを提供する Hiya 社の調査によると、同年、米国で詐欺に遭った人々が失った平均金額は 431.26 ドルでした。 比谷氏は、生成 AI の利用が進むにつれ、その額はさらに増加する可能性があると述べています。

バージニア工科大学コモンウェルス・サイバー・イニシアチブのリサーチ・ディレクター、エリック・バーガー氏は、「ロボコールを通じた不正行為によって、総額でどれだけの損失が発生するかは、驚くべきことだ」と語る。

「このせいで、電話体験がどれほど急速に変化するのか、私たちは理解できないと思います。」 —ジョナサン・ネルソン、ハイヤ

AI により、詐欺師は個人をターゲットにしやすくなる

「生成 AI の大きな懸念は、カスタマイズされた詐欺が主流になってしまうことです」と Hiya の製品管理ディレクター、ジョナサン ネルソンは言います。 特に、生成 AI によりスピア フィッシング攻撃が容易になると彼は言います。

一般に、フィッシング攻撃は、人々をだましてパスワードや財務情報などの個人情報を入手させることを目的としています。 しかし、スピア フィッシングはより標的が絞られています。詐欺師は誰をターゲットにしているかを正確に知っており、よりカスタマイズされたアプローチを通じてより大きな報酬を期待しています。 ネルソン氏によると、現在、生成型 AI を使用すると、詐欺師はソーシャル メディア サイトをスクレイピングし、テキストの下書きを作成し、さらには信頼できる音声のクローンを作成して、疑いを持たない個人から一斉にお金を引き離すことができるとのことです。

FCCがロボコールにおける生成AIを違法とする決議を全会一致で可決したことにより、当然問題は法執行に移る。 そこで専門家たちは、 IEEEスペクトル 多くの人はそれが必要な最初のステップであると考えていますが、一般的には疑わしいと考えられています。 ブレナン・センターの選挙・政府プログラム責任者のダニエル・ウェイナー氏は、「これは有益な一歩ではあるが、完全な解決策ではない」と語る。 ウェイナー氏は、FCCの権限範囲を考慮すると、FCCが欧州連合で検討されているディープフェイクの全面禁止と同じような、より広範な規制アプローチをとるのは難しいと述べている。

2017年から2019年までFCCの最高技術責任者を務めたバーガー氏は、FCCの投票が最終的に影響を与えるのは、ロボコールの禁止をより一般的に施行し始めた場合のみであると述べた。 1991 年に政府機関が電話消費者保護法を制定して以来、ほとんどの種類のロボコールは禁止されています（たとえば、歯科医院からの事前録音されたメッセージなど、今後の予約を思い出させるものなど、いくつかの例外はあります）。

「取り締まりは行われていないようだ」とバーガー氏は言う。 「政治家たちは『我々は悪者を追い詰める』と言いたがるが、彼らはそうしない。我々が望んでいるほどの勢いではない。」

ロボコール強制ツールは AI に対して十分ではない可能性がある

ロボコールの発信元を特定し、悪意のある行為者がロボコールを発信し続けることを防ぐための重要な方法は、通信インフラストラクチャの複雑なネットワークを通じてコールを追跡し、発信元を特定することです。 通常、通話は AT&T や T-Mobile などの複数のネットワーク オペレータによって維持されるインフラストラクチャを通過するため、トレースバックは複雑な作業でした。 しかし、FCC は 2020 年に、ネットワーク事業者に対し、ロボコール対策の中でも特にワンステップ トレースバックを可能にする STIR/SHAKEN と呼ばれるプロトコルの実装を開始する義務を承認しました。

「ワンステップ トレースバックが実証されました」とバーガー氏は言います。 たとえば、トレースバックは、ニューハンプシャー州の有権者をターゲットにした偽のバイデン電話の発信元がテキサスに本拠を置くライフ・コーポレーションという会社であることを特定した。 問題は、FCC、米国連邦捜査局、および州政府機関が、膨大な数の違法なロボコール作戦を追跡するためのリソースを提供していないことだとバーガー氏は言う。 歴史的に、FCC は極大犯罪者のみを追及してきました。

「この電話を止めることはできません」と Hiya のネルソン氏は言います。少なくとも完全には止められません。 「私たちの仕事は彼らを止めることではなく、彼らを利益をあげられなくすることです。」 Hiya も同様の企業と同様、保護サービスを通じて詐欺の成功件数を減らすことでその目標を達成することを目指しています。これには、電話がどこで誰によってかけられたかを明らかにするなど、個人が最初から電話に応答する可能性を低くすることが含まれます。

しかし、ネルソン氏は、生成 AI によって参入障壁が低くなり、こうした予防措置の効果が薄れるのではないかと懸念しています。 たとえば、今日の詐欺では、詐欺を首尾よく終わらせるために、被害者をコールセンターの常駐エージェントに転送することが依然としてほとんどの場合に必要です。 AI が生成した音声を使用すると、詐欺師は最終的にコールセンターを完全に遮断することができます。

「ロボコールを通じた不正行為によって、合計するとどれだけの損失が発生するかは、驚くべきことです。」 —エリック・バーガー、バージニア工科大学

ネルソン氏はまた、生成型 AI が向上するにつれて、人々がそもそも実際の人間と話しているわけではないことさえ認識しにくくなるのではないかと懸念しています。 「そこから我々は足場を失い始めるだろう」とネルソンは言う。 「詐欺であることにまったく気づかない電話受信者が増える可能性があります。」 たとえば、偽の慈善団体を名乗る詐欺師は、実際に何が起こったのかを寄付者に気付かせることなく、首尾よく「寄付」を募ることができます。

「このせいで、電話体験がどれほど急速に変化するのか、私たちは理解できないと思います」とネルソン氏は言います。

取り締まりを複雑にするもう 1 つの問題は、米国における違法なロボコールの大部分が国境を越えて発信されていることです。 たとえば、Industry Traceback Group は、2021 年にはそのような通話すべての 65% が国際発信であることを発見しました。

バーガー氏は、FCCが国際的なロボコールに対抗する措置を講じていると指摘する。 同庁は、詐欺電話を発信しているゲートウェイプロバイダー（国内インフラを国際インフラに接続するネットワーク事業者を指す用語）からのトラフィックの通過を他の通信事業者が拒否できるようにした。 たとえば、FCCは2023年12月、Solid DoubleとCallWinの2社に対し、違法なロボコールの送信を停止しなければ、他の通信事業者がトラフィックを拒否するよう要求される危険を冒すよう命じた。

「取り締まりは行われていないようだ。 私たちが望むような勢いではありません。」 —エリック・バーガー、バージニア工科大学

ロボコールにおける生成 AI に対する FCC の最近の措置は、この種のものとしては初めてのことであり、他国の規制機関もこれに従うかどうかはまだ分からない。 「FCCは規制当局の範囲内で迅速かつ大胆な行動において良い例を示していると確かに思います」とウェイナー氏は言う。 しかし、他の民主主義国のFCCに相当するものは、最終的にはより包括的な結果をもたらす可能性が高いとも同氏は指摘する。

バーガー氏によると、FCCの行動が他の規制当局と比べてどのように積み重なるかを言うのは難しいという。 FCC は、スペクトル共有などで時代の先を行っていることがよくありますが、ミッドバンド 5G の使用などでは、はるかに遅れていることもよくあります。

ネルソン氏は、FCCの決定は現在、企業が合法的な商行為に生成AIを使用することを妨げているため、数年以内に修正されると予想していると述べた。

FCCの投票が実際の効果をもたらすかどうかもまだ分からない。 バーガー氏は、偽のバイデン通話のような通話の場合、大統領になりすますだけでなくロボ通話もすでに違法であったため、通話の別の側面を違法にすることは状況を大きく変えるものではない可能性が高いと指摘する。

「それを三重に違法にすることで、本当に人々の抑止力になるのでしょうか?」 バーガーさんは言う。