人類 |セキュリティのジレンマ – ヒンドゥー教

アンスロピックは昨年、米国の国家安全保障機関にフロンティアサプライヤーとして扱われるほど近く、しかし火傷を負わない程度には十分遠いという厄介な立場に立つことに努めてきた。この評判ヨガのデモンストレーションの 1 つで、1 月 3 日に行われたベネズエラのニコラス マドゥロ大統領拉致作戦で Anthropic の AI モデル Claude が使用されたことが明らかになりました。

最近では、アンスロピックは完全自律型兵器の標的化と米国国内の監視を阻止するための安全策をめぐって国防総省と衝突した。 Anthropic はこれらは交渉の余地のない制限であると主張したが、国防総省は商用 AI は「すべての合法的な目的」で利用できるべきだと主張した。さらに最近では、国防総省はアンスロピックを「サプライチェーンリスク」に指定することを検討している。このタグは、請負業者にクロードを使用していないことを証明するよう圧力をかける可能性がある。

なぜ Anthropic はこのような束縛に陥っているのでしょうか?

2025 年、同社は米国国防総省との 2 億ドル相当の協定を発表し、防衛拠点の拡大を公に受け入れました。それはアンスロピックが、制限内で活動しながら国家安全保障に「イエス」と言える研究所になり、その過程で軍事機械の一部である企業としての世間の評判を維持したいという表れだった。 Anthropic はまた、チャットボットを備えた単なるラボとしてではなく、エンタープライズ生産性を高める企業としての地位を確立しようと努めています。たとえば、Infosysとの提携では、すでに厳しく規制されている業界にコンプライアンスおよびガバナンスサービスを販売している企業と同社のモデルを組み合わせることになる。

2つの野望

この拘束の理由は、セキュリティに対する厳しい期待を伴う政府の環境下で安全に運営していると主張できる企業が、銀行、製造業者、通信会社にも当然のように自社を売り込むことができるためです。つまり、アントロピック氏は政府に対し、「我々は民主主義国家が技術的優位性を維持できるよう支援するが、自律的標的化や大規模な国内監視などの展開は受け入れない」と述べている。その結果、企業に対して「厳格なコンプライアンス要件がある環境内でフロンティア AI を運用できる」と言えるようになります。

残念ながら、これら 2 つの野心は衝突してしまいました。アンスロピック社は、自律的標的化と国内監視に関して譲歩すれば、同様に防衛顧客に取り入っている他のフロンティア研究所や新規参入者との間に引こうとしてきた一線が崩れると考えているようだ。

しかし、国防総省は、特にベンダーが防衛サプライチェーン内に入った場合には、ベンダーの道徳的良心の呵責は的外れであるとシグナルを送っているようだ。

エンタープライズ オートメーション レイヤー、つまり、Claude を企業がその場限りの方法で使用するチャットボットとして保持するのではなく、ワークフロー内に直接埋め込むことを可能にするコーディングおよびエージェント システムは、依然として Anthropic の主な焦点分野の 1 つです。また、同社は、競合他社がより強力な代替品を開発した場合でも、規制当局や企業はこれらのモデルを好むだろうという論理から、自社モデルの安全機能を利点として売り込もうとしている。しかし、これは同時に、アンスロピックが国防総省の要求に屈した場合、その特徴的な差別化を失う可能性がある一方、拒否した場合、国防総省がその見せしめとなる可能性があることを意味する。

実際のところ、Anthropic はクロードの使用方法を制御しようとすることができますが、クロードが建物を離れるとその制御は弱まるということです。 Anthropic は、サービス規約で「x にクロードを使用することはできません」と述べたり、特定のリクエストを拒否するようにモデルをトレーニングしたりできますが、それでも、大規模な顧客が AI モデルをスタンドアロンのチャットボットとして使用することはほとんどありません。代わりに、クラウド プラットフォームを通じてアクセスし、データ分析や自動化などのソフトウェア ツール内に埋め込み、特定のミッションに適応させます。言い換えれば、顧客はサービス条件を回避できるが、Anthropic の共謀の問題は依然として残るということだ。

この意味で、Anthropic の最近の決定はおそらく首尾一貫しています。 AIに神経質になっている市場、たとえば敵対者を懸念する政府や賠償責任を懸念する企業は、展開と抑制の両方ができる開発者にプレミアムを支払うだろうと同社は賭けている。そして国防総省との論争は、人類がその両方を同時に行うとどれだけの費用がかかるかを初めて示す大きな例だ。