人類を強権的に使おうとする国防総省の試みがシリコンバレーで抵抗と反省を呼び起こす

人工知能の有力企業であるアンスロピック社と国防総省との戦いは、シリコンバレーでの自己探求を引き起こし、テクノロジー業界と戦争やホワイトハウスとの複雑な関係を再構築する可能性がある。

Anthropic は、チャットボット Claude と市場で最も強力な AI を開発している、サンフランシスコを拠点とするスタートアップです。軍との交渉では、その技術の使用方法についてのガードレールを要求してきた。

軍は、企業の恩恵を受けることを拒否し、Anthropic を敵対的な外国勢力と同様の脅威であるとレッテルを貼り、反発したと述べた。 一部の政府契約からブロックする。

テクノロジー業界のリーダーたちは、AIは一部の兵器の準備ができておらず、企業が強力な武装をすることは逆効果で反民主的であるとして、アンスロピック社を静かに支持している。トランプ大統領は、アントロピック社を「左翼の狂った仕事」と呼んだ。

この対決がどう展開するかは、次のような影響を与えるだけではない Anthropic の急成長するビジネス ミネソタ大学法科大学院のアラン・ローゼンシュタイン准教授は、大手ハイテク企業やその他の企業が、抵抗勢力を激しく攻撃することで知られる政権とどのように連携しているかにも問題があると述べた。

「一方で、政府の他のシリコンバレーのサプライヤーがAnthropicと同様に扱われないように、より一層の従順になる可能性がある」と同氏は述べた。 「その一方で、このような事態が自社に起こるリスクを避けるために、政府との取引をまったく避ける企業が増える可能性がある。」

近年、テクノロジーの先駆者の中には兵器の開発に慣れている人もおり、南カリフォルニアは防衛テクノロジー関連の新興企業の中心地として浮上している。防衛分野での長い歴史を持ち、ベンチャー資金と軍需を兵器、衛星、その他の高度なシステムに変えるための工場、エンジニア、航空宇宙の専門知識を備えています。

Anthropic とトランプ政権との対決の余波は、今後数年間でこの分野における地元の勝者と敗者を決定するのに役立つだろう。

ハイテク業界の主要企業の多くは、大々的にこの乱闘に参加することに消極的だが、アンスロピックが国防総省のブラックリストから外すために進めてきた裁判では、さまざまな側の立場が明らかになった。

人間的 訴訟を起こした 同社は、同社の「サプライチェーンリスク」としての指定を取り消し、トランプ政権による政府による自社技術の禁止令の執行を阻止するよう裁判所に求めている。

「この訴訟の影響は計り知れない」とアンスロピック社の訴訟は述べている。 「連邦政府は、AIの安全性と自社のAIモデルの限界という公共的重要性の高い主題に関して保護された見解を固守した大手フロンティアAI開発会社に対し、合衆国憲法と法律に違反して報復した。」

Anthropic の最大の懸念のいくつかは、その技術が政府の監視や自律型兵器に使用される可能性があることです。同社は契約の文言において、自社のAIがこうした目的に使用されないことを保証するよう求めている。政府はこの技術をそれらの目的には使用しないと述べたが、アンスロピック社が望んでいた保証を提供することはできなかった。

ハイテク業界団体、マイクロソフト、グーグルやオープンAIの従業員らは、トランプ政権に対する法廷闘争でアンスロピックを支援し、訴訟に独自の見解を加えている。

火曜日、米国政府の弁護士らは裁判所への提出書類の中で、国防総省がAnthropicを信頼できるかどうか疑問に思い始めたと述べた。

「Anthropicがその裁量で企業の『越えてはならない一線』を超えていると感じた場合、Anthropicは進行中の戦闘作戦前または戦闘中にその技術を無効化したり、そのモデルの動作を先制的に変更しようとする可能性がある」と政府は提出文書で述べた。

国防総省とアントロピックはコメントを控えた。

テクノロジー業界には、軍と協力してきた長く複雑な歴史があります。 1960 年代、国防総省は軍と政府のコンピューターの安全を確保するために、インターネットの前身である ARPAnet を開発しました。

今世紀の大部分において、大手テクノロジー企業とその投資家は、人々を監視したり殺害したりするのに役立つものの開発や宣伝を避けようとしてきました。かつて「Don’t Be Evil」というモットーで知られたGoogleは、ドローン監視映像の分析にAIが使用されることへの懸念から数千人の従業員が抗議したことを受け、物議を醸した国防総省との契約「プロジェクト・メイブン」を2018年に更新しなかった。

近年、軍事問題に対する技術的な修正でより多くの収益が得られるようになったため、状況は変わりました。

CBインサイツの上級主任アナリスト、ベンジャミン・ローレンス氏は、AIの進歩と、2022年のロシアのウクライナ侵攻などの大きな出来事が、防衛技術へのベンチャーキャピタル投資の急増を促進したと述べた。

「主権民主主義国家が侵略されたため、多くの伝統的な投資家が防衛技術をより前向きに捉えるようになり、大きな変化を引き起こした」と同氏は述べた。

世界で最も強力なテクノロジー企業は、防衛テクノロジーの新興企業と提携し、政府との契約を確保しています。

Googleはこれまで、民間人や軍関係者に機密扱いでない業務向けにAIツールを提供してきた。国防総省はまた、AIとクラウド機能を加速するために、政府機関や教育機関と連携する部門であるGoogle Public Sectorと2億ドルの契約を締結した。

第二次トランプ政権の誕生により、業界のホワイトハウスとその軍事的野心への忠誠は強化された。テクノロジー業界のトップの多くがトランプ氏を支持し、助言してきた。

しかし、AI革命の思想的リーダーの一人が最近強権的に発言したことで、多くの人が立ち止まるようになった。抵抗の一部は、テクノロジー業界が政府によるイノベーションの利用方法に疑問を抱いていた初期の時代を反映しています。

アンスロピックと国防総省の衝突後、ハイテク業界は困難な状況に陥っている。 2月下旬、トランプ大統領がAnthropic社を攻撃し、政府機関にその技術の使用を停止するよう命じたことで、国民の対立はさらにエスカレートした。同氏の政権はアンスロピック社を「サプライチェーンリスク」と認定し、同社に訴訟を起こさせた。

アンスロピックの訴訟によれば、トランプ大統領の行動により、民間団体と結んでいる数億ドルの契約が危険にさらされる可能性がある。連邦政府機関は契約をキャンセルし始めた。

Anthropic、Meta、OpenAI、Nvidia、Google、その他の大手企業が加盟するTechNetなどのテクノロジー業界団体は先週、法廷準備書面で、米国企業をブラックリストに載せることは「業界全体に不確実性をもたらす」と述べた。

「米国のテクノロジー企業を資産ではなく外国の敵として扱うことは、米国のイノベーションに萎縮効果をもたらし、政府支援による自国のAI技術を輸出する中国の取り組みをさらに活発化させる」と準備書面は述べた。

マイクロソフトもアンスロピックを支持し、トランプ氏がAI企業をブラックリストに載せるのを一時的に阻止するよう裁判所に求めた。 Anthropic をサプライ チェーンのリスクとして分類することは、Microsoft やその他の政府サプライヤーが、Anthropic の除外が契約にどのような影響を与えるかを判断するために「重要なリソース」を使用する必要があることを意味します。

米国政府は提出書類の中で、Anthropic社に対する懸念はその行為に焦点を当てており、その言論とは無関係であると述べた。しかし、アンスロピック社とテクノロジー業界は、この動きは自社のビジネスに悪影響を与えるだろうと主張している。

トランプ大統領の同社に対する厳しい批判に加え、ピート・ヘグセス国防長官は、アンスロピック社が「傲慢さと裏切りの達人級」を提供していると非難した。

アンドゥリルの創設者であるパーマー・ラッキーは国防総省の立場を支持し、軍の決定を下すのは企業幹部ではなく選挙で選ばれた役人であるべきだと述べた。アントロピック社はこれに反論し、ブログ投稿で「軍事的決定を下すのは民間企業ではなく陸軍省であることを理解している」と述べた。

この戦いが展開する中、一部の専門家は、おそらく法廷ではアンスロピック社が優位に立つだろうと述べている。

アンスロピックは訴訟の中で、トランプ政権は企業にサプライチェーンリスクのレッテルを貼る法律に違反したと述べ、同社は中国やイランなど米国の「敵国」とのつながりがないと指摘した。

アンスロピック氏はまた、トランプ政権が同社の演説やその他の保護活動を理由に報復し、合衆国憲法修正第1条に違反していると述べた。

「彼らはただ激しく非難しているだけだ」とミネソタ大学法科大学院のローゼンシュタイン氏は言う。 「これは大部分のことだと思います。」