世界

OpenAIはChatGPTの手書き検出ツールのリリースをまだ検討中

ジャカルタ (ANTARA) - 人工知能技術会社 (人工知能OpenAI の創設者兼 CEO である /AI は、ChatGPT が作成した手書き検出ツールをリリースするかどうかをまだ検討中であると報じられています。サム・アルトマン氏が率いる同社は、検出ツールが今リリースされた場合、複雑な問題とOpenAI以外の領域にも影響を及ぼす可能性があることから、慎重なアプローチを取っていると述べた。> より引用、日曜日 (4/8)、OpenAI は実際に提供方法を研究しています... 透かし または、有望そうな AI 生成のテキスト透かし。OpenAIの広報担当者は後にこう付け加えた。「しかし[the watermarking method]代替案を調査する際には、悪意のある行為者による回避の可能性や、英語を話さない人々などのグループに不均衡な影響を与える可能性など、重要なリスクを考慮します。」このアプローチも採用されており、業界が AI 生成テキストを検出するためにこれまで行ってきた取り組みは、ほとんど効果がないとみなされてきたため、異なるアプローチであると言えます。こちらもお読みください: AppleはiOS 18とChatGPTの統合が2024年末までに実施されることを確認したこちらもお読みください: OpenAI、一部のChatGPT Plusユーザー向けに高度な音声モードをリリースOpenAI自体は実際に2023年にAIテキスト検出器をリリースしましたが、精度レベルが低かったため、最終的にその機能を終了しました。テキストに透かしを入れることで、OpenAI は他社のモデルではなく、ChatGPT からのテキストの検出にのみ注力することになります。これは、ChatGPT が単語を選択する方法に小さな変更を加えることで実現され、基本的にはテキスト内に目に見えない透かしが作成され、別のツールで検出できるようになります。2024年5月のOpenAIのブログ投稿で、同社はAI生成コンテンツの検出に関する研究結果の一部を明らかにした。AI が生成したテキストの透かし入れ方法は、実際には非常に正確で、言い換えなどの複雑な形式のテキストに対しても効果的であることが証明されました。しかし、一方で、透かしには多くの脆弱性があるため、グローバルなアプリケーションにはあまり適していないと考えられています。それらの中には、検出されないように翻訳機を使用して処理されたテキストがあり、他の生成モデルで単語を変更し、最終的に検出されないように各単語の間に特殊文字を挿入するようにモデルに要求する場合があります。透かしシステムが世界的に適用されると、無責任な当事者によって騙される可能性があります。さらに、この研究では、透かしを入れると、英語を母国語としない人にとって AI を便利な文章作成ツールとして使用することに烙印を押される可能性があるため、マイナスイメージになる可能性もあると指摘しています。こちらもお読みください: OpenAIが高速パフォーマンスと低価格を実現したミニGPT-4oをリリースこちらもお読みください: OpenAI、中国でのChatGPTアクセスをブロックへこちらもお読みください: OpenAIはTime誌と提携し、ニュース出版物を使ってChatGPTを訓練する 翻訳者: リヴィア・クリスティアンティ編集者: ジタ・メイリナ著作権…