ヒットを検出する方法
ChatGPT Atlas でのメモリベースの侵害の検出は、従来のマルウェアの探索とは異なります。分離するファイル、レジストリ キー、実行可能ファイルはありません。代わりに、セキュリティ チームは、アシスタントの応答方法、提案内容、およびそのタイミングの微妙な変化などの動作の異常を探す必要があります。
「手がかりはありますが、それらは通常のスタックの外側にあります。たとえば、突然アウトバウンド URL を含むスクリプトを提供し始めたアシスタントや、ユーザーの意図を正確に予測し始めたアシスタントは、注入されたメモリ エントリに依存している可能性があります。メモリが侵害されると、AI は未取得のコンテキストで動作する可能性があります。これは危険信号であるはずです。」と同氏は述べています。 サンチット ヴィル ゴジャグレイハウンド・リサーチのCEO兼チーフアナリスト。
同氏は、フォレンジックの観点から、アナリストはブラウザのログ、メモリ変更のタイムスタンプ、即時応答シーケンスの相関関係に重点を置く必要があると付け加えた。チャット履歴のエクスポートと解析は不可欠です。 SOC チームは、ユーザーが未知のリンクをクリックした後に異常なメモリ更新や AI 主導のエージェント アクションが続くシーケンスに細心の注意を払う必要があります。
#Atlas #ブラウザのエクスプロイトにより攻撃者は #ChatGPT #メモリを乗っ取ることができます