アントロピックは、国防総省がAIチェックを削除することを「良心に反して許可できない」と述べている。米軍

人間的 言った 木曜日、同社は、人工知能モデルから安全対策を削除し、米軍に人工知能機能への自由なアクセスを許可するという国防総省の要求に「良心に従うことができない」と述べた。

国防総省は、アンスロピック社が金曜日までに要求に応じなかった場合、2億ドルの契約を解除し、アンスロピック社を「サプライチェーンリスク」、つまり財務に重大な影響を与える指定とみなすと脅していた。

ダリオ・アモデイ最高経営責任者（CEO）は声明で、国防長官からの脅迫は次のように述べた。 ピート・ヘグセス、会社の立場を変えるつもりはなく、ヘグセスが「再考」することを望んでいると述べた。

「私たちが強く望んでいるのは、要請された2つの安全措置を講じて、引き続き国防省と戦闘員に奉仕することだ」と同氏は述べた。 「我々は米国の国家安全保障を支援する取り組みを続ける用意ができている。」

国防総省とAnthropic社の対立の核心は、AI企業が自社製品であるClaudeの使用をどのように許可するかをめぐる意見の相違である。国防総省は人類に対し、 安全ガードレールをオフにする アンスロピック社はクロードを国内の大規模監視や人間の介入なしに人を殺害できる自律型兵器システムに使用することを許可することに反対している。

数ヶ月にわたる論争と政府からの圧力の後、ヘグセスは 与えたと伝えられている アモデイ氏は金曜夜までに国防総省の要求に同意しなければ懲罰的措置を受けることになる。

Anthropic が譲歩するかどうかは、大手 AI 企業の中で最も安全性を重視しているという同社の主張に対する注目度の高いテストであると同時に、この技術を物議を醸す可能性のある致命的な目的に使用したいという政府の意向に AI 業界の一部が反発するかどうかを試すものと見なされていた。

アモデイ氏は声明の中で、自律型兵器や国内の大規模監視にAIを使用することは「今日の技術で安全かつ確実に実行できる範囲をまったく超えている」と述べた。

国防総省は近年、AI技術を米国の軍事システムに構築したり統合したりするため、ハイテク企業に多数の有利な契約を結んでいる。昨年 7 月、Anthropic は、Google や OpenAI を含むいくつかの大手テクノロジー企業のうちの 1 つでした。 最大2億ドルの契約を獲得 国防総省と。 Anthropic を際立たせ、国防総省との対立を激化させているのは、今週まで軍の機密システムでの使用が承認されていた唯一の AI モデルだったことだ。 (イーロン・マスクのxAI 合意に達した 今週初めに機密システムでも使用される予定です)。

Anthropic のテクノロジーはすでに 軍事用途に使用されてきた先月米国がベネズエラ指導者ニコラス・マドゥロ氏を拘束したことも含め、紛争におけるAI利用の拡大を浮き彫りにした。人間の操縦者との接続が切断された後でも作戦を実行できるドローンなどの自律兵器技術の発展も、生死に関わる状況でAIがどのように使用されるかについての長年の懸念を強めている。

Anthropic と Amodei は、軍と協定を結び、今週骨抜きになったにもかかわらず、AI 開発における規制と安全上の予防策を長年にわたって業界で最も著名に提唱してきた企業の 1 つである。 核となる政策 まず安全性を保証することなく、新しい AI モデルをリリースしないこと。アモデイは規制を求めており、 政治的反対の歴史 ドナルド・トランプに対する彼らは、軍から「覚醒」を排除し、攻撃的な軍事政策を追求するというヘグセスの誓約に反対している。

ヘグセス氏がアンスロピック社をサプライチェーンリスクに分類するという脅しを実行すれば、AI企業にとっては大きな打撃となるだろう。この指定は、外国の敵対者に対して使用されることをより一般的に意図しており、その企業と取引する他のベンダーを禁止することになる。 米軍 Anthropic の製品を使用しないこと。