OpenAIはChatGPTテキストに透かしを入れる技術を持っているが、公開しないだけだ

ウォール・ストリート・ジャーナルによると、OpenAIでは、テキストがChatGPTによって生成されたものかどうかをテストできる透かしツールをリリースするかどうかをめぐって内部対立が起きているという。

このツールを導入するために、OpenAI は ChatGPT に微調整を加え、生成したテキストに特別なツールで検出できる痕跡を残すようにする。この透かしはツールがなければ人間の読者には検出できず、同社の内部テストでは出力の品質に悪影響を及ぼさないことがわかった。この検出器は 99.9 パーセントの確率で正確だ。透かしはテキスト自体のパターンであるため、ユーザーがテキストをコピーして貼り付けたり、少し編集したりしても保存される点に注意する必要がある。

OpenAIの従業員の中にはこのツールのリリースを求める運動をしている者もいるが、いくつかの具体的な問題を挙げて、それは間違った動きだと考える者もいる。

まず第一に、ChatGPT が使用される頻度を考慮すると、99.9 パーセントの精度であっても、透かし検出器が時々間違っている可能性があるという事実です。

このツールの使用に最も関心を示しているのは、ChatGPT で生成された学校のレポートやその他の課題の急増を目の当たりにしてきた教師や教授たちだ。しかし、OpenAI の主張はこうだ。99.9 パーセントの精度は高いように聞こえるが、1,000 の大学のレポートのうち 1 つが不正行為と誤って分類されていたと想像してみてほしい。それは、罪のない学生たちに不幸な結果をもたらす可能性がある。

さらに、OpenAIは、このツールのリリースにより、ChatGPTを翻訳や文章力向上のために使用している非ネイティブの英語話者に偏見を抱かせる可能性があると述べている。同社は、これはこのツールの正当な使用法であると主張している。

最後に、OpenAI のブログ投稿では、現在の形式では悪意のある人物が透かしを回避するのは比較的簡単であることが明らかにされています。ChatGPT の出力を別の LLM テキスト ジェネレーターで実行することで回避できるほか、ChatGPT に出力全体に特殊文字を挿入するように要求し、それらの文字を手動で削除することもできます。

OpenAI がブログ記事で言及しなかったが、ウォール ストリート ジャーナルの記事で取り上げられた問題が 1 つある。ChatGPT ユーザーを対象にした調査では、出力に透かしが入った場合は ChatGPT の使用をやめると回答したユーザーが 30% にも上った。

OpenAI は透かし機能の開発に取り組んでおり、まだ公開していません。また、出力に暗号化署名されたメタデータを含めるなど、まだ開発中の代替ソリューションも調査しています。

この解決策は、OpenAI が DALL-E 3 画像ジェネレーターでコンテンツの来歴の問題に取り組んだ方法に似ています。同社は、DALL-E で画像がいつどのように変更されたかを人々が識別できるように、C2PA メタデータを組み込んでいます。

OpenAI は以前、AI テキスト検出ツールをリリースし、サポートしていました。このツールは ChatGPT だけでなく、テキスト生成に AI ツールが使用されたかどうかの検出にも重点を置いていました。しかし、精度が非常に低く、誤検出が発生しやすいため、ほとんど役に立たず、廃止されました。