1771067501
2026-02-14 11:02:00
世界最大手のAI企業であるGoogleとOpenAIは今週、中国のDeepSeekを含む競合他社が自社のモデルを調査して根本的な推論を盗み、その機能を自社のAIシステムにコピーしていると警告した。
Google Threat Intelligence Group のチーフアナリストである John Hultquist 氏は、「これは世界中の脅威アクターから来ている」と語った。 レジスター、加害者は「民間企業」であると付け加えた。同氏は、この種の知的財産窃盗に関与した具体的な企業や国の名前を挙げることを拒否した。
「あなたのモデルは本当に貴重な知的財産であり、その背後にあるロジックを抽出できれば、そのテクノロジーを複製できる可能性が非常に高くなります。これは決して安価ではありません」とハルトクイスト氏は語った。 「これは非常に重要な技術であり、その複製に興味を持っている関係者のリストは無限にあります。」
Googleは、プロンプトを使用してモデルのクローンを作成するこのプロセスを「蒸留攻撃」と呼んでおり、木曜日には 報告 あるキャンペーンでは、「さまざまなタスクにわたって、英語以外の対象言語でジェミニの推論能力を再現しようとする」ために、10万以上のプロンプトが使用されたと述べた。
アメリカの大手テクノロジー企業は、独自の LLM のトレーニングと開発に数十億ドルを費やしてきました。 Gemini のような成熟したモデルへの正当なアクセスを悪用し、その情報を新しいモデルのトレーニングに使用することで、競合他社が独自の AI チャットボットやシステムを開発することが大幅に安価かつ容易になります。
Googleは、この調査をリアルタイムで検出し、内部推論の痕跡を保護したと述べている。しかし、蒸留は、不可能ではないにしても、排除することが非常に難しい AI リスクの 1 つであると考えられます。
これは非常に重要なテクノロジーであり、それを複製することに興味を持っている関係者のリストは無限にあります。
一般向けの AI モデルは広くアクセス可能であり、不正なアカウントに対する強制はモグラたたきゲームに変わる可能性があります。
さらに、Hultquist 氏が警告したように、他の企業が独自のモデルを開発し、内部の機密データに基づいてトレーニングするにつれて、蒸留攻撃によるリスクは拡大するでしょう。
「この点に関しては、私たちは最前線に立っているが、より多くの組織がアクセスを提供するモデルを持っているので、これは避けられない」と同氏は語った。 「このテクノロジーは金融機関などの企業によって採用および開発されるため、その知的財産もこの方法で標的にされる可能性があります。」
一方、OpenAIは木曜日に メモ [PDF] 中国に関する下院特別委員会で、DeepSeekや他の中国のLLMプロバイダーや大学がChatGPTや他の米国企業のフロンティアモデルを模倣したとして非難した。また、ロシアによる時折の活動にも言及し、違法なモデル蒸留が「アメリカ主導の民主的AI」にリスクをもたらすと警告した。
中国の蒸留方法はここ 1 年でより洗練され、思考連鎖 (CoT) 抽出を超えて多段階操作に移行しています。これらには、合成データの生成、大規模なデータ クリーニング、その他のステルス手法が含まれます。 OpenAI は次のように書いています。
OpenAI はまた、不正な蒸留を防ぐために、より強力な検出に投資していることにも言及しています。サービス利用規約に違反するアカウントを禁止し、モデルを抽出しようとしていると思われるユーザーを積極的に削除します。それでも同社は、それだけではモデル蒸留の問題を解決できないことを認めている。
OpenAIによると、蒸留から保護するために「生態系セキュリティ」アプローチを取る予定で、これには米国政府の支援が必要になるという。メモによると、「攻撃者はデフォルトで最も保護の低いプロバイダーを選択するだけなので、1 つの研究室が保護を強化するだけでは十分ではありません。」
同社はまた、情報とインテリジェンスの共有、業界と協力して蒸留防御に関するベストプラクティスを開発することに関して、米国政府の政策が「役に立つかもしれない」と示唆している。 OpenAIはまた議会に対し、DeepSeekや他の競合企業が米国のモデルにアクセスできるようにしているAPIルーターの抜け穴を塞ぎ、米国のコンピューティングやクラウドインフラへの「敵対者」のアクセスを制限するよう求めた。 ®
#LLM #を使用してライバルを絞り出す #Register