戦争時の AI と倫理: テクノロジー ガバナンスの将来を示す対立 |テクノロジー

2026年1月、ピート・ヘグセス米国陸軍長官は、人工知能（AI）システムを開発する企業との契約に、制限なしでの使用を許可するよう義務付ける指令を出した。この指令の結果、昨年 2 月末に AI 企業 Anthropic と米国陸軍省との間の対立が浮上し、ネット上で話題になりました。論争の中心には、Anthropic CEO の Dario Amodei が引いた 2 つの赤い線がありました。 同社のAIモデル「クロード」が国内の集団監視や完全自律型兵器システムに使用されることを拒否している。。米国政府はこれらのレッドラインを削除するよう要求したが、アモデイが拒否すると、米国政府はアンスロピックを国家安全保障に対する「リスク企業」と宣言することで応じた。この分類は、これまで主にファーウェイなどの外国敵に適用されていたものだ。トランプ大統領も 連邦政府機関にAnthropic製品の使用を停止するよう命令したそして国防総省は請負業者が同社との取引関係を維持することを禁止した。

アンスロープはまた、産業界に国防支援を強制する広範な権限を大統領に与える冷戦時代の規定である国防生産法に基づく強制執行の脅威にさらされている。この措置の矛盾は明らかである。なぜなら、一方で国防総省は Anthropic を安全保障上のリスクとみなし、他方でその技術の提供を強制すると脅迫しているからである。これは、それが国防に不可欠であると考えていることを意味している。

この対立 それは契約上の紛争をはるかに超えています。これは、明確で最新の法律がない中で、誰が AI の軍事利用に対する倫理的制限を設定するかをめぐる根本的な闘争を表しています。 AI システムがより強力になり、国家安全保障活動に深く組み込まれるにつれて、技術能力と民主的監視の間のギャップが拡大しました。

これは非常に憂慮すべき現実を浮き彫りにしている。（米国で起こっているように）各州が AI に制限を設けるために規制を放棄するとき、それが利益率や自社の戦略的地位を脅かすのであれば、大手テクノロジー企業が自発的に制限を課すことを期待するのは幻想である。実はここ1年、 いくつかの大手テクノロジー企業は、高収益の軍事契約を確保するというこれまでの倫理的約束を反故にした。。

Google がその好例です。 2018年、プロジェクト・メイブン（ドローン映像を分析するためにAIを使用した国防総省のプログラム）への関与に対する従業員の抗議を受けて、同社はメイブンから撤退し、軍事および大規模監視用途を除外する倫理原則を確立した。しかし、2025年2月に、地政学的な競争と国家安全保障の必要性による変更を正当化して、ウェブサイトからこれらの禁止事項をひっそりと削除した。

OpenAI も同様の道をたどりました。 2024年には軍事用途の全面禁止を解除した。 2025年、営利団体として再編する際に、同社はそのミッションステートメントから「安全なAI」を削除し、「汎用人工知能が人類に利益をもたらすことを保証する」と漠然と約束したが、安全性については明確に言及しなかった。この言及を削除すれば、説明責任を求めることが困難になることは理解に難くない。一方、イーロン・マスク氏の xAI は、その Grok モデルを制限なく軍事用途に使用することを許可する契約に署名することでさらに前進しました。一方、Meta は 2024 年 11 月に、国家安全保障に使用するために米国政府にラマ モデルを提供すると発表しました。

たとえ安全な生成 AI がビッグテックの真の目標だったとしても、それを達成するのは非常に難しいでしょう。その理由は、いわゆる「幻覚」（一見一貫性があるように見える虚偽の回答）という技術的な問題の存在です。この問題は、これらのシステムの確率的アーキテクチャに固有のものであるため、完全に排除することはできません。軍事的な文脈では、この問題は、目標の特定と選択における誤りにつながり、取り返しのつかない結果を招く可能性があるため、重要ではありません。人命を奪うミスもあれば、多くの命を奪うミスもあります。一部は武力紛争のさらなる激化を引き起こす可能性がある（罪のない人々の大量殺害がそうする可能性は十分にある）。最悪の場合、生成型 AI による障害によって引き起こされる一連のエスカレーションが核戦争につながる可能性があります。中東の現状を考えると、この懸念は単なる学術的なものではありません。

この文脈において、Anthropic は軍事用途への参加を全く拒否しておらず、むしろその逆であることを明確にすることが重要です。ダリオ・アモデイ氏は、2025年2月のパリAIサミットで、軍事分野における米国のリーダーシップを加速する議論として、権威主義政府が人工知能における軍事的優位性を確立するという脅威を口実にした。実際、AI モデルのファミリーである Claude は、米国の諜報機関や国防機関によって積極的に使用されています。例えば、クロードは、米軍との数百万ドルの契約を管理する会社パランティアとの協力を通じて、元ベネズエラ大統領ニコラス・マドゥロに対する米軍作戦に使用された。

さらに、アントロピックは陸軍省との対立と同じ週に、安全保障への取り組みを放棄すると発表した。これは、セキュリティ対策が適切であることを事前に保証できない限り、AI システムを決してトレーニングしないと約束した、責任ある開発ポリシーの中心的な柱を削除することを意味します。同社はセキュリティを放棄するわけではないとしているが、導入前の保証を、リスク報告などのより柔軟な導入後の約束に置き換えているとしている。セキュリティをアイデンティティの中心軸としてきた企業が、この変化を採用していることは、必ずしも心強いことではありません。

これらすべては、ダリオ・アモデイの立場をより懐疑的に解釈することを示唆している可能性があります。つまり、私たちが次のような事件に直面している可能性があります。 倫理洗濯。つまり、倫理上のレッドラインを公に策定することは、少なくとも部分的には、競争が激化する市場でAnthropicの顔を洗い、規制当局や投資家から同社のブランドを守ることを目的とした戦略である。この観点から、特定の使用の拒否は、同様に問題のある他の種類の軍事協力を排除するものではなく、むしろ慎重に調整された道徳的限界を引き出すことになるだろう。つまり、誠実さを投影するのに十分な制限がありながら、戦略的契約の可能性を開いたままにしておくのに十分な柔軟性がある。したがって、問題は、レッドラインの存在だけではなく、レッドラインがどのように定義され、誰が監査するのか、そしてレッドラインを取り巻く経済的インセンティブは何かということです。

Anthropic と国防総省の間のこの対立における OpenAI の役割は、シリコンバレーに蔓延する両義性を完璧に表しています。サム・アルトマンも同様の避けるべき一線を社内で再確認し、ダリオ・アモデイへの支持を公に表明したが、 人間性映画の禁止と同じ日に国防総省との合意を発表したその間、彼自身の契約について陸軍省と積極的に交渉していた。この同時性は、アルトマンの明らかな偽善を明らかにした。一方では倫理的抵抗を修辞的に支持し、他方では軍事契約の強化と拡大を行っていた。契約の詳細は公表されず、政府が協力に報い、抵抗を罰したという見方が強まった。

結局のところ、このエピソードは、安全保障、技術力、基本的権利のバランスをどう取るかという、民主主義にとって中心的な問題を提起しています。経済的または政治的圧力によって企業が倫理的境界線を持たないか、あるいはそれを放棄した場合、安全装置は消滅します。米国の場合のように、国家がその権力を行使して、倫理的な制限や国内法や国際法に違反することなく AI を使用できるようになると、企業の道徳的自主性は消滅します。さらに、企業倫理に関する宣言が戦略的位置付けツールとして機能する場合、 倫理洗濯検証可能な約束としてではなく、そのリスクは AI の軍事化だけでなく、倫理的言語自体の矮小化でもあります。

この紛争の結果は、軍事分野における AI の民主的統治の将来を示すことになるでしょう。残念ながら、現在の政治的、経済的、地政学的なインセンティブには、その将来について楽観的な見方を誘うものは何もありません。このシナリオを考えると、おそらく真の民主的圧力をかける唯一の方法は、これらの大企業が導入している生成型 AI の意識的かつ持続的なボイコットを促進し、倫理的な対抗策や合法性さえ迂回することなく軍事論理と権力とますます一致する技術モデルを国民や消費者が私たちの利用によって合法化し資金提供することを拒否することです。

広範なボイコットは実質的に無関係なマクロ経済的影響を与えることに注意することが重要です。しかし、ここが重要な点ですが、それは生成 AI を支える企業にとってマイナスの結果をもたらすでしょう。 Gartner の調査によると、生成 AI の使用の 80% は、エンターテインメントや従来の情報検索エンジンの代替など、非専門的なアプリケーションに相当しますが、残りの 20% は専門的なもので、経済にはほとんど影響を与えません。からの記事 ワシントンポスト 2026年2月23日、ゴールドマン・サックスの分析を引用し、米国における生成AIへの巨額投資が経済成長に「事実上ゼロ」貢献したと指摘した。ノーベル経済学賞受賞者のダロン・アセモグル氏の記事では、 AI のシンプルなマクロ経済学、 2024 年 5 月に国家経済調査局が発表した報告書では、生成 AI が生産性に対して与える影響は非常にわずかであると推定されています。

したがって、私たちを傍観し続けることを正当化する経済的言い訳はありません。それぞれの使用、それぞれのサブスクリプションは、私たちの生活に対する軍事と企業の権力を強化する技術モデルを養います。私たちは沈黙に加担し続けるのでしょうか？