1774108869
2026-03-21 00:03:00
人間は操作できない 米軍がその生成AIモデル「クロード」を稼働させたら、ある幹部は金曜日の裁判所への提出書類に書いた。この声明は、同社に関するトランプ政権の非難に応じて行われた。 戦争中にAIツールが改ざんされる可能性がある。
「Anthropic には、クロードの動作を停止させたり、その機能を変更させたり、アクセスを遮断したり、その他の方法で軍事作戦に影響を与えたり、軍事作戦を危険にさらしたりする能力は一度もありませんでした。」と Anthropic の公共部門責任者であるティヤグ・ラマサミー氏は述べています。 書きました。 「Anthropic には、進行中の操作前または操作中にテクノロジーを無効にしたり、モデルの動作を変更したりするために必要なアクセス権がありません。」
国防総省は、そのテクノロジーを国家安全保障にどのように利用できるか、そしてその利用の制限はどうあるべきかについて、数か月間にわたって大手AI研究所とのスパーリングを行ってきた。今月、ピート・ヘグセス国防長官は人類を「人類」に分類した。 サプライチェーンのリスク、この指定により、国防総省は今後数か月間、請負業者を通じても含めて同社のソフトウェアを使用できなくなります。他の連邦機関もクロードを見捨てようとしている。
人間的 2つの訴訟を起こした 禁止の合憲性に異議を唱え、それを取り消すための緊急命令を求めている。ただし、顧客はすでに始めています 取引のキャンセル。訴訟のうちの1件の審理は3月24日にサンフランシスコの連邦地方裁判所で予定されている。裁判官はすぐに一時的な取り消しを決定する可能性がある。
政府弁護士らは今週初めの提出文書で、国防総省は「国防と積極的な軍事作戦にとって極めて重要な瞬間に重要な軍事システムが危険にさらされるリスクを許容する必要はない」と述べた。
国防総省はクロードを利用してデータを分析し、メモを書き、戦闘計画の作成を支援している、とWIRED 報告されました。政府の主張は、Anthropic が特定の用途を承認しない場合、Claude へのアクセスを遮断したり、有害なアップデートをプッシュしたりすることで、アクティブな軍事作戦を混乱させる可能性があるというものです。
ラマサミーはその可能性を否定した。 「Anthropic はバックドアや遠隔の『キルスイッチ』を一切管理していません」と彼は書いている。 「例えば、人類の職員は DoW システムにログインして、作戦中にモデルを変更したり無効にしたりすることはできません。テクノロジーはそのようには機能しません。」
同氏は続けて、Anthropicは政府とそのクラウドプロバイダー（この場合はAmazon Web Services）の承認があった場合にのみアップデートを提供できると述べたが、名前は明らかにしなかった。ラマサミー氏は、Anthropic は軍のユーザーがクロードに入力するプロンプトやその他のデータにはアクセスできないと付け加えました。
Anthropic社の幹部らは裁判所への提出書類の中で、同社は軍事戦術の決定に対する拒否権を望んでいない、と主張している。政策責任者のサラ・ヘック氏は、 書きました 金曜日の裁判所への提出文書では、アンスロピック社は3月4日に提案された契約で同様の保証をする用意があると述べた。 [Anthropic] このライセンスは、陸軍省の合法的な作戦上の意思決定を管理したり拒否権を行使したりする権利を付与または付与するものではないことを理解している」と提出書類によれば、提案書には記載されており、これは国防総省の別名に言及している。
同社はまた、人間の監督なしで致命的な攻撃を実行するためにクロードが使用されることに対する懸念に対処する文言を受け入れる用意があるとヘック氏は主張した。しかし交渉は最終的に決裂した。
とりあえず国防総省は 言った 裁判所への提出文書では、同社が現在導入しているクロードのシステムに対して「アンスロピックのリーダーシップが一方的な変更を加えられないようにするため、サードパーティのクラウドサービスプロバイダーと協力する」ことで引き起こされる「サプライチェーンのリスクを軽減するための追加措置を講じている」と述べている。
#人間は戦争中にAIツールを妨害する可能性があることを否定