世界

軍事 AI ガバナンス: ルールを決めるのは誰ですか?

米国国防総省 (DOD) と Anthropic の間でくすぶっていた論争は現在、本格的な対立にまでエスカレートしており、不快ではあるが重要な問題を提起している。それは、人工知能の軍事利用のガードレールを設定するのは誰なのか、行政府、民間企業、それとも議会とより広範な民主プロセスなのか?というものだ。この紛争は、ピート・ヘグセス国防長官がアンスロピックのダリオ・アモデイ最高経営責任者（CEO）に対し、国防総省に自社のAIシステムを無制限に使用することを認める期限を与えたと伝えられたことから始まった。同社が拒否すると、政府はアンスロピック社をサプライチェーンリスクに指定し、連邦政府機関に同社の技術を段階的に廃止するよう命じ、対立は劇的にエスカレートした。Anthropic は、自社のモデルを米国国民の国内監視に使用することを許可することと、完全に自律的な軍事標的を可能にすることの 2 つの一線を越えることを拒否しました。ヘグセス氏は、商用AIシステムに埋め込まれた「イデオロギー的制約」と同氏が述べたものに異議を唱え、合法的な軍事利用の判断はベンダーの責任ではなく政府の責任であるべきだと主張した。同氏が先月イーロン・マスク氏のスペースXで行った講演で述べたように、「戦争ができないようなAIモデルは採用しない」。レトリックを取り除いたこの紛争は、比較的単純なもの、つまり調達に関する意見の相違に似ています。調達方針市場経済では、米軍が購入したい製品やサービスを決定します。企業は、何をどのような条件で販売するかを決定します。どちらの側も、立場を取ることに本質的に正しいとか間違っているということはありません。製品が運用上のニーズを満たさない場合、政府は別のベンダーから購入できます。企業が自社のテクノロジーの特定の用途が安全ではない、時期尚早である、または自社の価値観やリスク許容度に矛盾していると判断した場合、その提供を拒否することができます。たとえば、企業連合は、汎用ロボットを兵器化しないことを誓約する公開書簡に署名した。この基本的な対称性が自由市場の特徴です。状況がより複雑になり、さらに厄介になるのは、アンスロピックを「サプライチェーンリスク」に指定するという決定です。このツールは、外国の敵など、真の国家安全保障上の脆弱性に対処するために存在します。政府が優先する契約条件を拒否した米国企業をブラックリストに載せることを意図したものではない。 この権限をそのような方法で使用することは、調達に関する意見の相違から強制的な影響力の使用への大きな変化を示します。ヘグセス氏は、「米軍と取引のある請負業者、供給業者、またはパートナーは直ちに発効し、Anthropic といかなる商業活動も行ってはいけない」と宣言した。この行動はほぼ確実に法的異議申し立てに直面することになるが、そのリスクは単一の国防総省契約の喪失をはるかに超えて高くなる。AI ガバナンスAnthropic が提起したと伝えられている 2 つの実質的な問題を区別することも重要です。1つ目は、米国国民の国内監視に対する反対であり、確立された市民の自由への懸念に触れている。米国政府は、米国人の監視に関して憲法上の制約と法的制限の下で運営されている。国内監視を促進するために自社のツールが使用されることを望まないと表明している企業は、新しい原則を発明しているわけではありません。長年にわたる民主主義のガードレールと歩調を合わせようとしている。明確にしておきたいが、国防総省は米国人を不法に監視するためにこの技術を使用するつもりだと断言しているわけではない。その立場は、政府による合法的な使用を妨げるような制限が組み込まれたモデルを調達したくないというものです。言い換えれば、国防総省は、法律の遵守は政府の責任であり、ベンダーのコードに埋め込む必要があるものではないと主張している。 Anthropic 社は、監視支援など、特定のカテゴリーの有害または高リスクのタスクを拒否するシステムのトレーニングに多額の投資を行ってきました。したがって、この意見の相違は、現在の意図に関するものではなく、制約に対する制度上の制御、つまり、法律と監督を通じて国家によって制約が課されるべきか、それとも技術設計を通じて開発者によって課されるべきかという点に関するものである。2 番目の問題、完全に自律的な軍事目標への反対は、より複雑です。 国防総省はすでに、武力行使において人間の判断を必要とする政策を維持しており、兵器システムの自主性をめぐる議論が軍事と国際の場で進行中である。民間企業は、自社の現在のテクノロジーが特定の戦場での用途に対して十分な信頼性や制御性を備えていないと合理的に判断する場合があります。同時に、軍はそのような能力が抑止力と作戦効果のために必要であると結論付けるかもしれない。分別のある人であれば、どこに線を引くべきかについて意見が分かれるかもしれません。しかし、この意見の相違は、より深い論点を強調している。つまり、軍事用AI使用の境界は、内閣官房長官とCEOの間のその場限りの交渉によって解決されるべきではないということだ。また、どちらの側がより大きな契約上の影響力を行使できるかによって決定されるべきでもありません。米国政府が特定の AI 能力が国防に不可欠であると信じているのであれば、その立場を率直に表明すべきである。それは議会で議論され、教義、監視メカニズム、法的枠組みに反映されるべきです。ルールは企業だけでなく一般の人々に対しても明確である必要があります。米国はしばしば、権力が透明な民主的制度と法的制約の中で機能することを強調することで、独裁政権と自らを区別している。 AI ガバナンスが主に密室で発行される行政の最後通牒によって決定される場合、この区別の重要性は低くなります。戦略的な側面もあります。企業が連邦市場への参加にはすべての展開条件を放棄する必要があると結論づけた場合、一部の企業は連邦市場から撤退する可能性がある。他の企業は、政府契約の資格を維持するためにモデル保護措置を弱体化または削除することで対応する可能性があります。どちらの結果も米国の技術的リーダーシップを強化するものではない。国防総省は、合法的な軍事作戦を損なう潜在的な「イデオロギー的制約」を容認できないという点で正しい。しかし、恣意的な制限を拒否することと、展開条件の形成における企業のリスク管理の役割を拒否することには違いがあります。航空宇宙からサイバーセキュリティまで、リスクの高い分野では、請負業者は責任ある商品化の一環として、安全基準、テスト要件、運用上の制限を日常的に課しています。 AI をその慣行から独自に免除されるものとして扱うべきではありません。さらに、組み込まれた安全装置を軍事的有効性に対する障害とみなす必要はありません。多くの高リスク部門では、内部統制、技術的なフェイルセーフ、監査メカニズム、法的審査が連携して機能する、多層的な監視が標準的な慣行となっています。技術的な制約は追加のバックストップとして機能し、誤用、エラー、または意図しないエスカレーションのリスクを軽減します。議会は無活動状態だ国防総省は合法的使用に対する最終的な権限を保持すべきである。しかし、設計レベルで埋め込まれた特定のガードレールが、独自の監視構造を損なうのではなく、むしろ補完する可能性を否定する必要はない。状況によっては、安全システムの冗長性は、運用の完全性を弱めるのではなく、強化します。同時に、企業の一方的な倫理的取り組みは公共政策に代わるものではありません。テクノロジーが国家安全保障に影響を及ぼす場合、民間統治には固有の限界が生じます。結局のところ、監視当局、自律型兵器、交戦規則に関する決定は民主的な機関に属します。このエピソードは、AI ガバナンスにおける極めて重要な瞬間を示しています。テクノロジーの最前線にある AI システムは現在、情報分析、兵站、サイバー作戦、そして潜在的に戦場の意思決定に影響を与えるほど強力になっています。そのため、企業ポリシーだけで管理するには重大すぎるし、経営陣の裁量だけで管理するには重大すぎるのです。解決策は、一方が他方に対して権限を与えることではありません。両者の間を仲介する機関を強化することだ。議会は軍事AI使用の法的境界を明確にし、十分な監視が存在するか調査すべきである。国防総省は人間による管理、監査、説明責任に関する詳細な原則を明確にすべきである。市民社会と業界は、一時的な対立ではなく構造化された協議プロセスに参加する必要があり、調達政策は公的に確立された基準を反映する必要があります。AI のガードレールが契約上の圧力によって除去できる場合、交渉可能なものとして扱われるでしょう。しかし、それらが法律に基づいていれば、安定した期待となる可能性があります。軍事 AI に対する民主的な制約は法令と原則に属しており、民間の契約交渉に属するものではありません。この記事は、著者が許可を得て編集したものです。 技術政策プレス。読んでください 元の記事。あなたのサイトの記事からウェブ上の関連記事 #軍事 #ガバナンス #ルールを決めるのは誰ですか