ChatGPT 用の AI 検出器: 知っておくべきことすべて

テキストが次のようなツールによって生成されたことを検出する チャットGPT 難しい仕事です。 人気のある 人工知能GPTZero のような検出ツールは、何かが人間ではなくボットによって書かれたものであることをユーザーに知らせることで、ユーザーに何らかのガイダンスを提供する可能性がありますが、特殊なソフトウェアでさえ確実ではなく、誤検知を吐き出す可能性があります。

1 年以上前に AI 検出の取材を始めたジャーナリストとして、私はこのテーマに関する WIRED の優れた記事を厳選して、皆さんのような読者がこの複雑な問題をよりよく理解できるようにしたいと考えました。

ChatGPT などからの出力の検出についてさらに質問があります。 チャットボットツール? 私のアカウントにサインアップしてください AI ロック解除ニュースレターAI に関連して答えてほしいこと、または『WIRED』にもっと詳しく調べてほしいことがある場合は、私に直接連絡してください。

2023 年 2 月、リース・ロジャース著

ChatGPT の発売から約 2 か月後に書かれたこの記事では、AI テキスト検出の複雑さと、 AI革命 オンラインで出版する作家を意味するかもしれません。 創業者エドワード・ティアン GPTゼロ氏は、彼の AI 検出器がテキストの差異やランダム性などの要素にどのように焦点を当てているかについて話しました。

読みながら、テキストの透かしに関するセクションに注目してください。「透かしは、特定の単語パターンを AI テキスト ジェネレーターの立ち入りを禁止するように指定できる場合があります。」 有望なアイデアではありますが、私が話を聞いた研究者たちは、その潜在的な有効性についてすでに懐疑的でした。

2023 年 9 月 クリストファー・ビーム著

昨年の WIRED 10 月号に掲載された素晴らしい記事であるこの記事では、GPTZero の到達範囲と検出機能の拡大に取り組んだエドワード ティアンの考え方を内部的に見ることができます。 どのように焦点を当てるか AIは学業に影響を与えている 重要です。

AI テキスト検出は、多くの教室の教育者がレポートを採点するときに最優先事項であり、生徒が密かにチャットボットを使用して宿題を完了するため、エッセイの課題を完全に放棄する可能性があります。 生成 AI をブレーンストーミング ツールとして使用する学生もいますが、他の学生はそれを次の目的で使用しています。 課題全体を捏造する。

2023 年 9 月 ケイト・ニブス著

企業には AI によって生成された可能性のある製品にフラグを立てる責任がありますか? ケイト・ニブス氏は、著作権を侵害する可能性のある AI 生成の書籍がどのようにして販売されているのかを調査しました。 アマゾン一部の新興企業は、製品が特別なソフトウェアで発見され、削除できると信じていたにもかかわらず。 AI 検出に関する中心的な議論の 1 つは、誤検知 (AI の仕業として誤ってフラグが付けられた人間が書いたテキスト) の可能性が、アルゴリズムで生成されたコンテンツにラベルを付けるメリットを上回るかどうかにかかっています。

2023 年 8 月 アマンダ・フーバー著

単なる宿題を超えて、AI によって生成されたテキストが学術雑誌に掲載されることが増えていますが、学術雑誌では多くの場合、許可なく掲載が禁止されています。 適切な開示。 「AIによって書かれた論文は、科学文献のプールを薄め、優れた研究から注目をそらしてしまう可能性もあります」とアマンダ・フーバーは書いている。 この問題に対処するための考えられる戦略の 1 つは、開発者が査読済み論文内の AI コンテンツを検索する特殊な検出ツールを構築することです。

2023 年 10 月 by Kate Knibbs

私が昨年 2 月に AI テキスト検出用の透かしについて初めて研究者らと話したとき、彼らは人間の読者には検出できないが、検出ソフトウェアには明らかな特定の言語パターンが AI テキストに刻印される可能性について、期待を寄せながらも慎重でした。 振り返ってみると、彼らの不安は適切なところにあったようです。

わずか半年後、ケイト・ニブスは、AI の透かしを突破し、検出戦略としての根本的な弱点を実証している複数の情報源と話をしました。 失敗することが保証されているわけではありませんが、AI テキストに透かしを入れるのは依然として困難です。

2024 年 4 月 アマンダ・フーバー著

AI によって生成された教室での作業を教師が検出するために使用しようとしているツールの 1 つが次のとおりです。 ターニチン、AI スポッティング機能を追加した盗作検出ソフトウェア。 (Turnitin は、『WIRED』を発行するコンデナストの親会社である Advance が所有しています。) アマンダ・フーバーは次のように書いています。 しかし、誤検知のリスクや英語学習者に対する偏見を考慮して、一部の大学は当面ツールを廃止することになりました。」

AI 検出器は、書き込まれたコンテンツに誤ってラベルを付ける可能性が高くなります。 英語を母語としない人 ネイティブスピーカーの場合よりも、AI としての場合です。 開発者が AI 検出アルゴリズムの改善に取り組み続ける中、誤った結果の問題は依然として克服すべき主要な障害となっています。