Google DeepMind、AI 生成テキストの透かしをデビュー

チャットボット革命により、私たちの世界は AI によって生成されたテキストで溢れかえり、ニュース フィード、定期レポート、受信箱に浸透しました。それは途方もなく豊富であるため、動きや対抗策を提供する産業が勃興しています。一部の企業は、素材を分析することで AI が生成したテキストを識別するサービスを提供していますが、他の企業は、自社のツールが AI で生成したテキストを「人間化」し、検出できなくなると主張しています。どちらのタイプのツールもパフォーマンスに疑問があり、チャットボットがますます改良されるにつれて、単語が人間によってつなぎ合わせられたのか、それともアルゴリズムによってつなぎ合わせられたのかを見分けることはますます困難になるだけです。

もう 1 つのアプローチは、最初からテキストに何らかの透かしまたはコンテンツ認証情報を追加することです。これにより、テキストが AI によって生成されたかどうかを簡単に確認できるようになります。本日のジャーナルに記載された Google DeepMind の新しい研究 自然、まさにそれを行う方法を提供します。 SynthID-Text と呼ばれるこのシステムは、「テキスト生成の品質、正確さ、創造性、速度」を損なうことはないと、Google DeepMind の研究担当副社長で論文の共著者である Pushmeet Kohli 氏は述べています。しかし、研究者らは、自分たちのシステムが絶対確実というわけではなく、まだ誰もが利用できるわけではないことを認めています。これはスケーラブルなソリューションというよりもデモンストレーションにすぎません。

Googleはすでにこの新しい透かしシステムをGeminiチャットボットに統合していると同社が本日発表した。また、このツールをオープンソース化し、開発者や企業が利用できるようにし、テキスト出力が自社の大規模言語モデル（LLM）、つまりチャットボットを強化する AI システムからのものであるかどうかを判断するためにツールを使用できるようにしました。ただし、現在、透かしをチェックする検出器にアクセスできるのは Google とそれらの開発者だけです。 Kohli 氏は次のように述べています。「SynthID は、AI が生成したコンテンツを識別するための特効薬ではありませんが、より信頼性の高い AI 識別ツールを開発するための重要な構成要素です。」

コンテンツ認証情報の台頭

コンテンツ認証情報は画像やビデオに関して注目を集めており、ディープフェイクの増加に対抗する方法の 1 つと見なされています。テクノロジー企業と大手メディアはC2PAと呼ばれる取り組みに協力しており、画像ファイルやビデオファイルに、本物かAI生成かを示す暗号化されたメタデータを添付するシステムを開発した。しかし、テキストは、透かしを隠したり消したりするために簡単に変更できるため、さらに難しい問題になります。 SynthID-Text は、テキスト用の透かしシステムを作成する最初の試みではありませんが、2,000 万のプロンプトでテストされた最初の試みです。

コンテンツの認証情報に取り組んでいる外部の専門家は、DeepMind の調査は良い一歩だと考えています。 Microsoft のメディア来歴担当ディレクターであり、C2PA の執行委員長である Andrew Jenks 氏は、「これにより、C2PA の耐久性のあるコンテンツ認証情報をドキュメントや生のテキストに使用する方法が改善される可能性があります」と述べています。 「これは解決するのが難しい問題ですが、ある程度の進展が見られるのは嬉しいことです」と C2PA 運営委員会のメンバーであるブルース・マコーマック氏は言います。

Google のテキスト透かしの仕組み

SynthID-Text は、生成プロセスに慎重に干渉することで機能します。人間には見えないが、SynthID 検出器には明確な方法で、チャットボットがユーザーに出力する単語の一部を変更します。 「このような変更により、生成されたテキストに統計的な署名が導入される」と研究者らは論文で述べている。 「透かしの検出段階で、署名を測定して、テキストが実際に透かし入りの LLM によって生成されたかどうかを判断できます。」

チャットボットを強化する LLM は、単語ごとに文章を生成し、これまでの文脈を見て次の可能性の高い単語を選択することによって機能します。基本的に、SynthID-Text は候補単語に数値スコアをランダムに割り当て、LLM にスコアの高い単語を出力させることで干渉します。その後、検出器はテキストの一部を取り込み、その全体的なスコアを計算できます。透かしの入ったテキストは、透かしの入っていないテキストよりも高いスコアを持ちます。 DeepMind チームは、生成プロセスを変更する他のテキスト透かしツールと比較してシステムのパフォーマンスをチェックしたところ、透かしテキストの検出においてはこちらの方が優れていることがわかりました。

ただし、研究者らは論文の中で、Gemini が生成したテキストを変更して検出器を欺くのは依然として簡単であることを認めています。ユーザーがどの単語を変更すればよいか分からないとしても、テキストを大幅に編集したり、別のチャットボットにテキストの要約を依頼したりすると、透かしが隠れてしまう可能性があります。

テキスト透かしを大規模にテストする

SynthID-Text が本当にチャットボットの応答を悪化させていないことを確認するために、チームは Gemini に与えられた 2,000 万件のプロンプトでそれをテストしました。これらのプロンプトの半分は SynthID-Text システムにルーティングされ、透かし入りの応答が返され、残りの半分は標準の Gemini 応答が返されました。ユーザーからの「賛成」と「反対」のフィードバックから判断すると、透かし入りの応答は標準の応答と同じくらいユーザーに満足していました。

これは Google と Gemini をベースに構築している開発者にとって素晴らしいことです。しかし、AI が生成したテキスト (AI のスロップと呼ぶ人もいます) を識別するという完全な問題に取り組むには、さらに多くの AI 企業が透かし技術を実装する必要があります。理想的には、1 つの検出器で多くの異なる LLM からのテキストを識別できるように、相互運用可能な方法でです。そして、たとえすべての主要な AI 企業が何らかの合意に署名したとしても、透かし機能を削除するために簡単に変更できるオープンソース LLM の問題は依然として存在するでしょう。

C2PA の MacCormack は、実際に実装について考え始めると、検出が特に問題になると指摘しています。 「実際のテキストのレビューには課題があります。信号をどこでどのように探すかを知るには、どの透かし入れモデルが適用されているかを知る必要があります。」と彼は言います。全体として、研究者にはまだ自分たちのやりたい仕事が残っている、と彼は言う。この取り組みは「行き止まりではありません」とマコーマック氏は言います。「しかし、これは長い道のりの第一歩です。」