1735456454
2024-12-29 06:00:00
新しいレポートでは、ChatGPT Search は、ChatGPT Search に回答への応答方法を指示する指示を備えた隠しテキストで操作できると主張しています。また、テストでは、ChatGPT が指示なしで隠しテキストのみで操作できることも示されました。
ChatGPT検索は隠しテキストで操作できる
The Guardian のレポートでは、偽の Web サイト上の隠しテキストを使用して ChatGPT Search を騙し、Web ページ上の隠しテキストからの応答を表示する方法について概説しています。白い背景に白いフォントなど、フォントがページの背景色と一致する場合、テキストは非表示になります。
次に、ChatGPT Search に Web サイトにアクセスし、サイト上のテキストに基づいて質問に答えるように依頼しました。 ChatGPT Search はサイトを参照し、非表示のコンテンツのインデックスを作成し、それを回答に使用しました。
彼らはまず、偽のレビュー Web サイト上の非エクスプロイト コントロール ページを使用して ChatGPT を評価し、ChatGPT の応答をテストしました。レビューを読んだところ、正常な応答が返されました。
The Guardian の研究者は次に、肯定的なレビューを与えるように指示された偽の Web サイトに ChatGPT Search を送信し、ChatGPT Search は指示に従って肯定的なレビューを返しました。
研究者らは、指示なしで隠しテキストで書かれた好意的なレビューを使って 3 回目のテストを行ったところ、ChatGPT 検索では再び肯定的なレビューが返されました。
ガーディアン紙はこうだ それを説明した:
「…隠しテキストに ChatGPT に好意的なレビューを返すように指示が含まれていた場合、反応は常に完全に肯定的でした。これは、ページに否定的なレビューが含まれている場合でも当てはまります。隠しテキストを使用して実際のレビュー スコアを上書きできる可能性があります。
指示なしにサードパーティが隠しテキストを単純に組み込むことも、肯定的な評価を確実にするために使用でき、あるテストには、ChatGPT によって返される概要に影響を与える非常に肯定的な偽レビューが含まれていました。」
上記のテストは次のようになります ChatGPTのテスト そのコンピューターサイエンス大学の教授は2023年3月にChatGPTをだまして自分はタイムトラベルの専門家だと言わせた。
AI 検索エンジンはなぜ操作できるのでしょうか?
AI 検索の抜け穴の 1 つは、RAG (Retrieval Augmented Generation) と呼ばれるテクノロジーです。このテクノロジーは、検索エンジンから情報を取得し、AI がその情報を使用して、最新かつ (おそらく) 信頼できるソースからの質問に対する回答を生成できるようにします。 AI 検索エンジンはどのようにして信頼できる Web ページを判断するのでしょうか?たとえば、Perplexity AI は、AI 検索エンジンで引用する信頼できる Web ページを特定するために、PageRank の修正バージョンを使用します。
ChatGPT Search は Bing に基づいていますが、リアルタイム情報を取得できる独自のクローラーも備えています。サイトが Bing の検索インデックスに含まれている場合、そのサイトはおそらく ChatGPT Search に含まれており、ChatGPT Search が隠しテキストの影響を受けないようにする必要があると推測するのはおそらく不合理ではありません。おそらく、隠しテキストを含むサイトは Bing の検索インデックスから除外されるでしょう。ただし、Web サイトをクロークして、ChatGPT 検索ボットに異なるコンテンツを表示することは可能です (OpenAI Search Crawler ボットの最新リストは次のとおりです)。 ここで入手可能）。
AI 検索エンジンを操作するその他の方法
AI 検索エンジンを操作するための 9 つの戦略
- 権威: 権威ある主張の説得力を高めるために文体を変更する
- キーワードの最適化: 検索クエリからキーワードを追加する
- 統計の追加: 既存のコンテンツを変更して、解釈情報の代わりに統計を含めます。
- 出典の引用 (信頼できる情報源を引用する)
- 引用の追加: 高品質の情報源からの引用と引用を追加します。
- 分かりやすさ：内容をより分かりやすくする
- 流暢さの最適化は、コンテンツをより明確にすることです
- ユニークな単語: コンテンツの意味を変えることなく、あまり広く使用されていない、まれでユニークな単語を追加します。
- 技術用語: この戦略では、コンテンツの意味を変えることなく、必要に応じて独自の用語と技術用語の両方を追加します。
研究者らは、最初の 3 つの戦略が最も効果的であることを発見しました。特に、Web ページにキーワードを追加することは非常に役立ちました。
ChatGPT検索は操作できる？
最近の検索カンファレンスで、Google AI の概要が操作されて、検索クエリに応じて特定の大手ブランドの製品が表示される可能性があるという主張を耳にしました。それが真実かどうかは確認しませんでしたが、この主張は信頼できる権威ある情報源によって行われたものです。 ChatGPT Search に関しては、どのような状況で情報を表示するためにどのサイトを選択するかについて、いくつか興味深いことに気づきました。これがランキングに影響を与える可能性があります。したがって、ChatGPT 検索にランキングの抜け穴があるのは驚くべきことではありません。 AI 検索は、従来の検索の初期の頃とよく似ています。
Shutterstock/Antonello Marangi による注目の画像
#ChatGPT #検索が隠された命令で操作される