1752419258
2025-07-13 14:38:00
WorkspaceのGoogle Geminiを活用して、正当なように見えるが、添付ファイルや直接リンクを使用せずにユーザーをフィッシングサイトに指示する悪意のある指示または警告を含む電子メールの要約を生成することができます。
このような攻撃は、電子メール内に隠され、メッセージの概要を生成するときにGeminiに従う間接迅速な迅速な注入を活用します。
2024年以降、同様の迅速な攻撃が報告されており、誤解を招く応答をブロックするために保護措置が実施されていますが、この手法は成功したままです。
ジェミニを介して攻撃します
GoogleのGeminiモデルに対する迅速な注入攻撃はそうでした 0dinから開示されています、MozillaのGenai Bug Bounty Programs Manager、研究者Marco FigueroaによるMozillaの生成AIツールのバグバウンティプログラム。
このプロセスには、Geminiの目に見えない指令を含む電子メールを作成することが含まれます。攻撃者は、フォントサイズをゼロに設定し、その色を白に設定するHTMLとCSSを使用して、メッセージの最後にボディテキストの悪意のある命令を隠すことができます。
悪意のあるメールの作成
出典：0din
悪意のある命令はGmailでレンダリングされません。添付ファイルやリンクが存在しないため、メッセージは潜在的なターゲットの受信トレイに到達する可能性が非常に高くなります。
受信者が電子メールを開いてGeminiに電子メールの要約を生成するように依頼した場合、GoogleのAIツールは目に見えないディレクティブを解析して従います。
Figueroaによって提供された例は、隠された命令に続いてGeminiを示しており、サポート電話番号とともに、ユーザーのGmailパスワードが侵害されていることに関するセキュリティ警告が含まれています。
Geminiの要約結果はユーザーに提供されます
出典：0din
Google Workspace機能の一部としてGeminiの出力を信頼する可能性が高いため、このアラートは悪意のある注入の代わりに正当な警告と見なされる可能性が高いです。
Figueroaは、セキュリティチームがそのような攻撃を防ぐために適用できるいくつかの検出と緩和方法を提供しています。 1つの方法は、ボディテキストに隠されるようにスタイルとなっているコンテンツを削除、中和、または無視することです。
別のアプローチは、緊急のメッセージ、URL、または電話番号のGemini出力をスキャンする後処理フィルターを実装し、さらなるレビューのためにメッセージにフラグを立てることです。
また、ユーザーは、セキュリティアラートに関しては、ジェミニの要約を権威あると見なすべきではないことに注意する必要があります。
BleepingComputerはGoogleに連絡して、そのような攻撃を防止または軽減する防御について尋ねました。 ブログ投稿 迅速な注入攻撃に対するセキュリティ対策について。
「私たちは、これらのタイプの敵対的な攻撃を防御するためにモデルを訓練する赤みの演習を通じて、すでに堅牢な防御を常に強化しています」とGoogleのスポークスマンはBleepingComputerに語った。
会社の代表者は、BleepingComputerに、いくつかの緩和が実装されているか、展開されようとしていることを明らかにしました。
Googleは、Figueroaの報告書で実証された方法でGeminiを操作した事件の証拠を見ていない、とスポークスマンは言った。
クラウド攻撃はより洗練されている可能性がありますが、攻撃者は依然として驚くほどシンプルなテクニックで成功しています。
数千の組織にわたるウィズの検出から引き出されたこのレポートでは、クラウドフルエントの脅威アクターが使用する8つの重要なテクニックを明らかにしています。
#Google #Gemini #Flawはフィッシングのためのメールの要約をハイジャックします