米国国防総省に対する Anthropic の抵抗、OpenAI のエントリー: 解説

これまでの話：米国国防総省（第2次トランプ政権では陸軍省と称されていた）は、Claude AI製品を製造するAI企業Anthropicと公の場で論争を始めた。国防総省はアンスロピック社を「サプライチェーンリスク」に指定すると脅し、米国政府と協力するさまざまな企業がアンスロピック社の製品をひいきにすることを思いとどまらせた。その後、ChatGPT メーカーである OpenAI が参入し、Anthropic が望んでいることと根本的には変わらないという合意を得ました。

クロードとは何ですか？

Claude は、組織や個人ユーザーのコードの作成と変更を支援する AI チャットボットです。同社の Claude Code 製品は、その機能により非常に好評を博しています。 Claude Code は、非常に強力なラージ言語モデル (LLM) で実行される数少ない AI 製品の 1 つであり、操作するさまざまなソフトウェア ライブラリにアクセスできれば、デバイス上でのツールの作成と編集もサポートします。

この製品はハイテク兵器や防衛システムで反復できるため、防衛機関にとって非常に魅力的です。重要な兵器システムは何層もの秘密で保護されており、時間がかかるセキュリティクリアランスが必要となるため、これらのシステムのプログラマーの採用は遅れる傾向にあります。

クロード コードは、国防総省にとって、テクノロジーを迅速に推進するプログラムを反復できる可能性が高いため、説得力のある提案となっています。 Claude Code は常にプログラミング タスクを完璧に実行するわけではありませんが、十分なパフォーマンスを発揮するため、これを広く導入している組織、特にすでに経験豊富なソフトウェア開発者の間で多くの開発タイムラインが短縮されています。

なぜアントロピックは国防総省と衝突したのでしょうか?

Anthropic は昨年 6 月、2 億ドルの契約の一環として国防省に導入され、これにより米国政府はアマゾン ウェブ サービスがホストする専用インフラストラクチャからクロードのサービスを利用できるようになりました。

同社と国防総省との間の問題は、ピート・ヘグセス国防長官が「アメリカの軍事AI優位性の加速」と題した覚書を発表した1月9日に始まり、その中で「データ共有、運用認可（ATO）、試験と評価と認証、契約、雇用と人材管理、および迅速な実験と実戦を妨げるその他の政策に対する障害」の排除を求めた。

Anthropic には、このモデルが広範な監視をサポートし、完全自律型兵器を実現することを妨げる、大々的に宣伝されているクロードの「憲法」があります。同社の共同創設者であるダリオ・アモデイ氏は、国防総省とアンスロピックとの間の合意には、米国居住者の国内監視に対する保護を盛り込み、完全自律型兵器の使用を可能にするという強い文言を主張した。

同社は先週金曜日まで、折れて国防総省が自社モデルに完全に無制限にアクセスできるようにする許可を与えられていた。同社はこれを拒否し、ブログ投稿で国防総省の新しいプロバイダーへの移行に役立つと述べた。

国防総省は、Anthropic をサプライ チェーン リスクとして分類する作業を進めました。この指定は通常、自社の製品が外国の敵対者に重要なシステムへのバックドアを提供する可能性がある危険な行為を行っている企業に適用されます。この指定は、国防総省のサプライヤーとパートナーが国防総省専用のシステムでクロードを使用しないことを禁止するだけですが、幹部が慎重になってクロードとの関係を完全に排除する可能性があるという懸念があります。

OpenAIの契約とは何ですか?どう違うのですか？

OpenAIは国防総省と合意に達し、前者はAnthropicが求めていた監視や完全自律型兵器に対する保護と同じ保護を持っていると主張した。 Anthropicが追放されているにもかかわらず、なぜOpenAIがこの取引を成立させることができたのかは完全には明らかではない。 OpenAIが公開した協定の一部には、「陸軍省は、適用される法律、運用要件、確立された安全性と監視プロトコルに従って、あらゆる合法的な目的でAIシステムを使用することができる」と記載されている。

「AI システムは、法律、規制、または省の政策により人間の制御が必要な場合に、自律型兵器を独自に指示するために使用されることはありません。また、同じ当局の下で人間の意思決定者の承認が必要な他の一か八かの意思決定を行うために使用されることもありません。」 Anthropic は、たとえ合法化されたとしても、上記の使用例を禁止する契約の法的文言をより明確にすることを求めたと報告されています。

OpenAIは声明で、「展開が（エッジではなく）クラウドのみに限定され、当社の安全スタックが当社が最善と考える方法で機能し続け、安全なOpenAI担当者が常に情報を把握できるようにするため、ここでは当社のレッドラインの強制力がより強まると考えている」と述べた。 「なぜAnthropic社がこの契約に至らなかったのかは分かりませんが、Anthropic社やより多くの研究機関がそれを検討してくれることを願っています。」