世界

ChatGPT テキストの透かしをめぐる論争

OpenAI は、約 1 年前から、によって生成されたテキストに透かしを入れるシステムを準備してきました。 チャットGPT ウォーターマークを検出するツールもある、とウォール・ストリート・ジャーナルが報じた。 しかし、これをリリースするかどうかについて社内で意見が分かれている。 一方で、それは最も責任ある行動のように思えますが、他方では、彼女の収益を損なう可能性があります。その透かし OpenAI 前の単語やフレーズに続く可能性が最も高い単語やフレーズをモデルが予測する方法を調整し、検出可能なパターンを作成すると説明されています。AI が作成した教材を検出できる機能は、生徒が AI に作文課題を課すことを阻止しようとしている教師にとって利点となる可能性があります。 WSJの報道によると、同社はチャットボットが生成するテキストの品質に透かしが影響しないことを発見したという。 同社が依頼した調査では「世界中の人々が AI 検出ツールのアイデアを 4 対 1 の差で支持しました」とWSJは書いている。WSJが記事を公開した後、OpenAIは今日のアップデートでテキスト透かしに取り組んでいることを認めた ブログ投稿 TechCrunchによって発見されました。 その中で同社は、自社の手法は非常に正確で（同誌が確認した文書によると「99.9％有効」）、「言い換えなどの改ざん」に耐性があると述べている。 しかし、別のモデルを使用して再キャストするなどの手法により、「悪意のある攻撃者が簡単に回避できる」と同氏は述べています。 さらに、OpenAI は、調査対象の ChatGPT ユーザーが透かしの使用によって疎外される可能性があることを懸念しており、30% 近くが透かしが実装されればソフトウェアの使用が減ると同社に回答しています。[via] #ChatGPT #テキストの透かしをめぐる論争