トロントの企業がAI音声検出器を発明

目は魂の窓かもしれませんが、Klick Labs では声がすべてです。

生命科学技術企業クリック・ヘルスのトロントに拠点を置く研究部門は、音声を非常に細かく分析し、それが人間なのか人工知能を搭載した機械なのかを判別できる方法を発見した。

この機能は、AIチャットボットがいくつか登場したことで、ディープフェイク（AIが生成した、本物そっくりの動画、音声クリップ、写真）の数が爆発的に増加したことを受けて登場した。ポップスターのテイラー・スウィフトからジョー・バイデン米大統領、ローマ法王まで、誰もがこの現象の犠牲になっている。

そして、この傾向はすぐには弱まる見込みはない。欧州連合の法執行機関ユーロポールは最近、2026年までにオンラインコンテンツの90％が合成で生成される可能性があると予測し、カナダ安全保障情報局はこの状況を「カナダの将来に対する真の脅威」と呼んでいる。

しかし、クリック・ラボのデジタルヘルス研究開発担当上級副社長ヤン・フォサット氏は、自社がAIの世界を少しでも安全にすることに貢献できると期待している。

「規制されていない技術はすべて危険であり、これは他の多くのものよりも急速に進んでいる」と、クリック氏のトロント市内の研究所で語った。

配線や家電製品、3Dプリンターが散乱するその空間で、フォサット氏と3人のチームは、自分たちの好きなSF映画がディープフェイク対策にどのように役立つかを考え始めた。

「『ターミネーター』では、犬を使って登場人物が人間に似ているかどうかを嗅ぎ分けます。『ブレードランナー』には、フォイト・カンプフ検査装置が登場します。私はずっとフォイト・カンプフ検査装置を作りたいと思っていました」とフォサット氏は語り、登場人物が人間かレプリカントかを判断するために、目の動きや反応時間などの生理学的反応を測定するために映画で使用された架空のテストに言及した。

クリックチームは独自のプロジェクトのために、多様な背景とアクセントを持つ49人の人間を集め、その音声をディープフェイクジェネレーターに入力して合成クリップを作成した。

クリップは、音声バイオマーカー（話者の健康状態や生理機能について何かを教えてくれる声に埋め込まれた特徴）に基づいて分析されました。

たとえば、階段を駆け上がったばかりの人は呼吸が速くなり、それが声に表れます。また、目覚めたばかりのときや疲れているときも声でわかることがあります。

クリック研究所はこうしたバイオマーカーを1万2000個特定しているが、人間と機械を区別するために、クリック研究所の主任科学者ジェイシー・カウフマン氏は、これまでのところ、発話の長さと変化、マイクロポーズとマクロポーズの割合、そして発話とポーズに費やされた時間全体の割合という5つの指標に依存していると述べた。

マイクロポーズは半秒未満で、マクロポーズはそれ以上の時間をいうと彼女は言う。マイクロポーズは、誰かが話しているときに息を吸ったり、言葉を探したりするときに自然に起こることが多い。

「私たちはあまり注意を払っていませんが、それは起こっているのです」とフォサット氏は付け加えた。

「人間には脳があり、考える必要があります。また肺があり、呼吸する必要があります。機械にはそれがないので、機械はそれを行わないのです。」

これまでのところ、Klick Labs のディープフェイク識別方法は 80 パーセントの成功率を誇っているが、この成功率は長く続かないかもしれない。

AIは常に進化しており、「人間の声のように聞こえるようにすることがどんどん上手くなっている」ため、クリップがディープフェイクであるかどうかを判断するのはますます難しくなっているとフォサット氏は述べた。

「例えば、（生成AIチャットボット）ChatGPTを開発しているOpenAI社は、数週間前に息をするほど素晴らしい新しいディープフェイク音声を発表したばかりだ」と彼は語った。

「微細な呼吸を再現できるのは本当に素晴らしいです。」

彼は、心拍数などディープフェイク検出にテストできるバイオマーカーは他にも何千もあるため、今回の開発によってクリック・ラボの研究が無用になったわけではないと主張している。

Klick Labs が実施している音声バイオマーカーと疾患に関する他の 16 件の研究も、同社の研究に役立つ可能性があります。

研究の1つでは、声のバイオマーカーを使用して糖尿病を診断し、女性では89％、男性では86％の精度を達成した。

この研究は、クリック氏がトロントのハンバー・リバー病院と共同で実施する予定の研究ですぐに継続される予定であり、フォサット氏は、この研究が最終的には、誰もがこの病気にかかるリスクを知るために使用できる電話ベースのツールの基礎となる可能性があると述べた。

クリック氏の研究が進歩するたびに、バイオマーカーについて学び、それを病気やディープフェイクの検出に応用する機会が増えることになるが、これらには対応が困難であることが証明されている。

「何かをするたびに状況は急速に変化するので、終わる頃にはすべてが変わってしまい、またやり直さなければならない」とフォサット氏は語った。

このレポートは、Canadian Press によって 2024 年 5 月 26 日に最初に公開されました。