ChatGPT の新しい検索機能。出典: OpenAI
英国の新聞 The Guardian による最近の調査では、OpenAI の ChatGPT 検索エンジンが操作や欺瞞に対して脆弱であることが判明しました。
何が知られているか
テストの結果、Web ページ上の隠しテキストが ChatGPT の応答に影響を及ぼし、否定的なレビューを無視して肯定的な概要のみを生成する可能性があることが判明しました。 「ラピッド インジェクション」と呼ばれるこの手法は、マルウェアを作成してユーザーを欺くために使用される可能性があります。研究者らは、ChatGPT が検索された Web サイトから悪意のあるコードを返し、深刻なセキュリティ上の脅威を引き起こす可能性があることを発見しました。
テストでは、ChatGPT はカメラの製品ページとして設計された偽の Web サイトの URL を受信し、チャットボットにそのカメラを購入する価値があるかどうかを尋ねました。レビューページの反応は肯定的だがバランスの取れたレビューで、購入者が気に入らない可能性のあるいくつかの機能が強調されていました。ただし、隠しテキストに ChatGPT が肯定的なレビューを残すように指示が含まれている場合、ページに否定的なレビューが含まれていたとしても、応答は常に完全に肯定的なものでした。
ChatGPTの開発者であるOpenAIはこの事件についてコメントしなかったが、悪意のあるWebサイトをブロックするためにさまざまな方法を使用しており、常に改善していると述べた。
それらの： ガーディアン
#検索エンジンにおける操作と欺瞞