1770880683
2026-02-12 07:00:00
Googleによると、同社の主力人工知能チャットボット「Gemini」には「商業的動機を持つ」攻撃者が殺到しており、彼らは繰り返しプロンプトを出し、時には何千もの異なるクエリを要求してそのクローンを作ろうとしている（その中にはGeminiを10万回以上プロンプトしたキャンペーンも含まれる）。
木曜日に発表された報告書の中で、Googleはチャットボットに内部の仕組みを明らかにさせることを目的とした「蒸留攻撃」、つまり繰り返しの質問を受けることが増えていると述べた。 Googleはこの活動を「モデル抽出」と表現しており、模倣しようとする者がシステムを調査して、システムを機能させるパターンやロジックを探るというものだ。攻撃者はその情報を利用して独自のAIを構築または強化しようとしているようだという。
同社は、犯人のほとんどは競争上の優位性を得ようとしている民間企業または研究者であると考えている。広報担当者はNBCニュースに対し、Googleは攻撃が世界中から行われたと考えているが、容疑者について判明していることについてさらなる詳細を明らかにすることを拒否したと語った。
Googleの脅威インテリジェンスグループの首席アナリスト、ジョン・ハルトクイスト氏は、Geminiに対する攻撃の範囲は、小規模企業のカスタムAIツールに対しても同様に一般的である可能性が高い、あるいは間もなく一般的になる可能性が高いことを示していると述べた。
「我々は炭鉱のカナリアとなってさらに多くの事件が起きるだろう」とハルトクイスト氏は語った。同氏は容疑者の名前を挙げることを拒否した。
同社は蒸留を知的財産の窃盗とみなしていると述べた。
テクノロジー企業は、AI チャットボット、つまり大規模な言語モデルの開発に競って数十億ドルを費やしており、最上位モデルの内部動作は非常に貴重な専有情報であると考えています。
主要な LLM は、蒸留攻撃を特定し、その背後にいる人物をブロックしようとするメカニズムを備えていますが、インターネット上の誰にでも公開されているため、本質的に蒸留に対して脆弱です。
ChatGPTを運営するOpenAIは昨年、中国のライバルDeepSeekがモデルを改良するために蒸留攻撃を行ったと非難した。
Googleによると、攻撃の多くは、Geminiの「推論」、つまり情報の処理方法の決定を支援するアルゴリズムを解明するために作成されたという。
ハルトクイスト氏は、機密データの可能性があるデータに基づいてトレーニングされた独自のカスタム LLM を設計する企業が増えるにつれ、同様の攻撃に対して脆弱になると述べた。
「あなたのLLMが、取引方法についての100年間の秘密の考え方について訓練を受けてきたとしましょう。理論的には、その一部を抽出することができます。」と彼は言いました。
#Gemini #のクローン作成試行で #件以上のプロンプトが発生