AIは戦争にノーと言う

米軍は、「すべての合法的な目的」のために、AIを制限なく使用したいと考えている。アントロピックはこれに抵抗しており、自律型兵器と大規模監視に関しては赤い線を引いている。現在、国防総省は契約から数百万ドルを撤回すると脅している。これはシリコンバレーの倫理と軍事教義の間で行われた初めての大規模な権力闘争であり、AIが長い間政治的存在であったことを示しています。

国防総省は軍事用の汎用AIを望んでいる

米国政府は次のように圧力をかけている：大手AIプロバイダーは、特別な規則を設けずに、すべての軍事用途向けに自社のモデルを公開すべきだ。これは、分析および偵察システムから運用サポートに至るまで、法的に「合法」とみなされるすべてのものを指します。国防省にとって、AIは長年にわたって重要なインフラであり、もはや実験の分野ではない。届けたいなら、道徳的な脚注なしで届けるべきです。

クロードは赤い線を引く

人間性はうまくいきません。クロード開発者は政府機関との協力は受け入れますが、白紙小切手は拒否します。完全自律型兵器システムと自国民の大規模監視という 2 つの立ち入り禁止区域が明確に定義されています。企業の観点から見ると、これは個々のミッションに関するものではなく、基本的なポリシーに関するものです。つまり、AI がサポートできる意思決定はどれか、サポートできない意思決定はどれですか?

レバレッジとして2億ドル

対立は明らかだ。伝えられるところによると、国防総省は、アンスロピックが撤回しない場合、約2億ドルの契約を解除すると脅しているという。メッセージ: 軍事 AI でプレイしたい場合は、軍事ロジックを受け入れる必要があります。しかし、Anthropic にとっては、売上よりももっと重要な問題があります。それは、同社が競合他社との差別化を意識的に行っている「セキュリティ指向」の AI アプローチの信頼性です。

中立的なテクノロジーの神話が崩れつつある

爆発物：以前の報道によると、クロードはすでにベネズエラのニコラス・マドゥロ大統領を捕らえる米国の作戦に利用されたと言われている。分析、計画、コミュニケーションのいずれであっても、たとえ間接的な使用であっても、民間 AI がいかに急速に地政学的な現実に紛れ込むかを示しています。まさに、ここが論争の核心です。AI が権力の投影を可能にしたとしても、すぐに中立ではなくなるのです。

シリコンバレーの価値観ストレステスト

国防総省の動きはAnthropicだけに影響を与えるわけではない。 OpenAI、Google、xAIなども同様の要望を受けているという。少なくとも 1 つのプロバイダーがすでに同意しており、他のプロバイダーも「柔軟性」を示しています。翻訳: 軍事 AI の市場は出現したばかりであり、企業は倫理を製品の機能として扱うか、マーケティング コピーとして扱うかを決定する必要があります。

AI が「ノー」と言ったら、どうなるでしょうか?

この事件は転換点を示す。軍事的利用全体（「あらゆる目的に」）の論理が初めて、企業の使用制限と真っ向から衝突することになる。 Anthropic が毅然とした態度をとれば、できることすべてを実行できない AI システムという前例ができることになるでしょう。それは国防総省にとって問題となるだろう。おそらく自律的暴力についての議論の始まりとなるだろう。