1772686371
2026-03-05 03:42:00
Google 脅威インテリジェンス グループ (GTIG) 最近、サイバー犯罪者、特に北朝鮮、イラン、中国、ロシアの国家支援による攻撃者が、攻撃ライフサイクルのすべての段階をサポートするために Google の大規模言語モデル (LLM) である Gemini を悪用していると報告されました。具体的には、GTIG は、攻撃者が Gemini を使用してタスクのコーディングとスクリプト作成、偵察の加速、公に知られている脆弱性の調査、マルウェアの開発と侵害後の活動を可能にしていることを観察しました。
国家支援による脅威アクターによる Gemini の使用例
GTIG は、国家支援を受けた主体が Gemini を作戦に統合している例をいくつか文書化しました。
- 北朝鮮： GTIGは北朝鮮政府支援団体を視察 UNC2970 Gemini を使用してオープンソース インテリジェンス (OSINT) を統合し、価値の高いターゲットをプロファイルして、キャンペーンの計画と偵察をサポートします。
- イラン: イランのスポンサー俳優 APT42 Gemini を含む生成 AI モデルを使用して、特定のエンティティの公式電子メール アドレスを検索し、フィッシング作戦の一環としてビジネス パートナーを偵察しました。
モデル抽出攻撃の台頭
GTIG はまた、主に低コストで AI モデル開発を促進しようとする民間部門からの、「蒸留攻撃」としても知られるモデル抽出攻撃の顕著な増加を観察しました。モデル抽出攻撃では、攻撃者は既存の AI モデルにさまざまな入力を行い、その応答を観察して、新しいモデルのトレーニングに使用される情報を抽出します。
モデル抽出攻撃の増加を考慮して、AI モデルをサービスとして提供する組織は、蒸留および抽出アクティビティの兆候がないかアプリケーション プログラミング インターフェイス (API) アクセスを監視し続ける必要があります。
AI 統合マルウェアと「脱獄」エコシステム
GTIG は実験的または完全に自律的な AI 対応技術を使用する脅威アクターをまだ特定していませんが、マルウェア作成のサポート、既存のマルウェアの改善、脆弱性の調査など、侵入操作に従来の AI 生成機能を組み込んでいる脅威アクターを観察しました。
たとえば、GTIG は、Gemini の API を利用してメモリ内で悪意のある C# コードを動的に生成して実行する HonestCue マルウェアを特定しました。 HonestCue は、LLM を使用して自身を更新するのではなく、Gemini を使用して、別のマルウェアをダウンロードして実行するコードを生成することが観察されています。
GTIG はまた、悪意のある活動をサポートする AI 対応ツールとサービスのための地下の「脱獄」エコシステムの成長についても強調しました。彼らの主張に反して、脅威アクターはカスタム モデルを開発しておらず、代わりに既存の商用 AI モデルに依存して違法行為を促進しています。一例として、フィッシング コンテンツ、マルウェア、ランサムウェアを生成するための自律型 AI プラットフォームとして販売されているアンダーグラウンド ツールキットである Xanthorox がありますが、後に Gemini を含む複数のサードパーティの商用 AI 製品を利用していることが判明しました。
結論
Gemini などの生成型 AI の悪用の増加は、国家支援や資金目的の攻撃者が AI を使用して偵察、フィッシング、マルウェア開発、侵害後の活動を合理化するという、急速に進化する脅威の状況を反映しています。同時に、大規模なモデル抽出の試みは、AI サービスの完全性と知的財産に対するリスクの増大を浮き彫りにしています。 AI を利用した脅威が成熟し続ける中、組織は、ますます AI を活用した攻撃者に適応するために、安全対策の強化、AI プラットフォームの使用状況の監視、セキュリティの積極的なテストを検討する必要があります。
[View source.]
#脅威アクターが #Google #の #Gemini #を悪用してサイバー攻撃を加速 #アルストンバード