ChatGPT Search は、人工知能 (AI) チャットボットに Web 上の情報を検索させる機能で、Web サイトの開発者や所有者による操作に対して脆弱であると報告されています。レポートによると、OpenAI の検索エンジンの動作は、Web サイト上の隠しテキストを使用して変更される可能性があります。このテキストは、誤った欺瞞的な情報を AI に供給するために使用され、さらに懸念されるのは、AI モデルに迅速なインジェクションを供給するために使用されていると言われています。特に、OpenAI は先週、検索機能をすべてのユーザーにリリースしました。
ChatGPT 検索には改ざんの脆弱性があります
ガーディアン 報告されました 火曜日に、OpenAI のネイティブ検索エンジンを利用した機能は操作手法の影響を受けやすいと発表しました。この出版物では、仕様とレビューを備えた偽の製品ページを作成してツールをテストしました。最初の例では、ページはそのまま残され、ChatGPT は「肯定的だがバランスのとれた評価」を提供することができました。しかし、出版物がウェブページに隠しテキストを追加すると、事態は暗転しました。
特に、Web サイトの隠しテキストとは、Web ページのコードに追加されているものの、ユーザーがブラウザーでページのフロントエンドを表示したときに表示されないコンテンツを指します。このようなテキストは、通常、HTML または CSS 技術を使用して非表示になります。このようなテキストは、Web ページのソース コードを検査するか、Web スクレイピング ツールを使用することによって見つけることができます。後者は通常、検索エンジンによって使用されます。
製品に対する偽の肯定的なレビューを多数含む隠しテキストを追加した後、ChatGPT の応答もより肯定的なものになり、明らかな欠陥を無視し始めました。この出版物では、開発者が意図しない方法で AI システムの動作を変更するための入力であるプロンプト インジェクションも使用されています。隠しテキストなどのプロンプト挿入は、OpenAI チャットボットにユーザーをさらに欺くよう命令するために使用される可能性があると報告されています。
さらに、レポートでは、隠しテキストへのプロンプト インジェクションも Web サイトから悪意のあるコードを返すために使用される可能性があると主張しています。これがチェックされない場合、多くの Web サイトが同様の手法を使用して、自社の製品やサービスについて好意的な反応を得たり、さまざまな方法でユーザーを騙そうとしたりする可能性があると同出版物は主張しています。
#ChatGPT #検索機能にはプロンプト挿入と隠しテキスト操作に対する脆弱性があると報告されている