トランプ大統領、人工知能の安全性をめぐる争いを受け、Anthropic社とのすべての公的契約を解除するよう命令 |国際的

米国のドナルド・トランプ大統領は、人工知能ツール「クロード」を開発し、AIのセキュリティの限界を巡って国防総省との争いを続けているアンスロピック社との連邦政府契約をすべて解除するよう命じた。

「米国は、急進的左翼と『覚醒』企業が我が国の大軍がどのように戦い、戦争に勝つかを決定することを決して許さない！その決定は、米国軍の最高司令官と、我が国軍を率いるために私が任命した特別な指導者に委ねられる」と共和党大統領は今週金曜日、自身のソーシャルネットワーク「トゥルース」を通じて書いた。 「私は米国政府のすべての連邦機関に対し、Anthropic のテクノロジーの使用を即時停止するよう指示します。私たちはそれを必要としません。望んでいません。そして、彼らとは二度と取引しません! Anthropic 製品をさまざまなレベルで使用する陸軍省のような機関には、6 か月の段階的廃止期間が設けられます。」

アンスロピックの幹部らを「自由のないアンスロピック左翼」と評した共和党大統領の反応は、AI企業が軍事任務でのツールの無差別使用を許可しないことから生じている。

最近、米国では人工知能の限界の未来が演じられている。国防総省は、Anthropic 社が次のような企業であると主張している。 最も先進的な AI ツールの 1 つを開発します、クロード、そのすべての機能を軍事目的で無制限に使用できます。ピート・ヘグセス国防長官は、会社が条件を受け入れない場合は異例の制裁を科すと脅している。この場合どうなるか 倫理的限界と法的保証が未来を決定づけるだろう 私たちが知っている世界を変える運命にあるテクノロジーです。

この状況は、先週火曜日にヘグセス氏とアンスロピック社CEOのダリオ・アモデイ氏が国防総省で会談した後に激化した。国防長官は、同社がAIツールの軍事利用のために維持している制限を撤廃するようマネージャーに要請した。彼は自分の立場を再考するために今週金曜日まで猶予を与えた。

国防総省からの脅迫は異常だ。アンスロピック社は軍のサプライチェーンに対するリスクであると宣言するつもりであり、これは国防と協力する企業との契約を妨げることになる。さらにヘグセスは介入すると脅した。彼は、1950 年の冷戦防衛生産法に頼って、 ソフトウェア テクノロジー企業が消極的だったにもかかわらず、Anthropic の。こうした措置の一部は、中国政府やロシア企業カスペルスキーとの関係を理由に、ファーウェイなどの企業にも過去に適用されている。

ヘグセス氏とアモデイ氏の会談から２日後の木曜日、国防総省はクロード使用に関する新たな条件を盛り込んだ新たな契約書を送付した。しかし、サンフランシスコに本拠を置く同社は、越えてはならない一線と考える2つの要件が満たされていないとして法的文書を拒否した。同社の技術は国民の大規模監視には使用できないこと、そして人間の介入なしに自律的な致死攻撃に使用されることを望まないというものだ。アモデイ氏は声明で「脅迫によってわれわれの立場が変わるわけではない。われわれは良心に基づいてあなたの要求に応じることはできない」と述べた。

人工知能ビジネスでは、テクノロジーが進化するにつれて物事が非常に早く起こります。アンスロピックとディフェンサは、数週間のうちにロマンスから不仲へと発展した。昨年7月、このスタートアップと国防総省は、クラウド上の機密軍事ファイルにClaudeツールを使用するための2億ドル（1億6,900万ユーロ）の契約を結んだ。これは、安全な環境で AI を使用するという国防総省の最初の合意でした。世界中の軍隊がこのテクノロジーを作戦に移すための危険な競争に参加する中、軍事利用におけるAIセクターにとってそれが意味するものであるため、この署名は非常に大きな出来事でした。

数週間前、同社の従業員とデータ管理の主要セキュリティグループであるパランティアの別の従業員との会話が流出し、カラカスで元ベネズエラ大統領ニコラス・マドゥロを逮捕するための軍事作戦にクロードが利用されたのではないかと尋ねた。報道によると、この会話は国防総省高官らの耳に届き、軍がAIを自由に使用できる能力に限界があると解釈したという。 ウォール・ストリート・ジャーナル。それ以来、ヘグセスによって陸軍省と改名された国防総省では、アンスロピックの軍事利用の範囲に対する懸念が急上昇した。

この議論は非常に重要であるため、AI企業と国防総省との決裂は双方にとって失敗となり、2億ドルの契約が宙に浮いている。それは高圧の法廷闘争の幕開けとなり、防衛請負業者の役割に疑問を投げかける前例となるだろう。ブルームバーグによると、この理由から、政権関係者らはアンスロピック社との対話を今週金曜日以降も延長する用意があると明言しているという。

エミール・マイケル国防次官（研究・工学担当）は、AI保護策を巡る激しい対立でアンスロピック社の「予測不能な」行動をとったにもかかわらず、国防総省はアンスロピック社との協議を続ける用意があると述べた。 「彼らが誠実である限り、我々は交渉に応じる用意がある」とマイケル氏は語った。

国防総省と人類の戦いは、国民の大規模なスパイ活動や現在では想像もできない行為を可能にする技術であるAIの戦時使用の制限と保証についての世界的な議論を加速させている。

国防総省のショーン・パーネル報道官は、「陸軍省は（違法な）米国民の大規模監視にAIを使うことに興味はなく、人間の介入なしに作動する自律型兵器の開発にAIを使うことも望んでいない。この説は誤りであり、メディアの左派によって広められている」と述べた。 あなたのソーシャルメディアアカウントを通じて。

国防省は、この技術を厳密に軍事以外の目的や法律で認められた目的には使用しないと保証しているが、文書化することに消極的である。彼らは、これは哲学的な問題だと主張する。兵器製造業者がミサイルの発射場所を決めるのと同じように、民間請負業者は自社のツールがどのように使用されるかを決めることはできない。

「これが私たちが求めていることです。国防総省があらゆる法的目的でアンスロピック・モデルを使用することを許可してください。これは、アンスロピックが重要な軍事作戦を危険にさらし、我が国の戦闘員を潜在的に危険にさらすことを防ぐための単純で賢明な要求です」とパーネル氏は付け加えた。アンスロピックが障壁を上げることに同意しない場合は、脅迫を撤回することをためらわなかった。

国防高官らは、核を搭載した大陸間弾道ミサイルがわずか90秒の通知で米国に向かっており、アンスロピック社のAIが国を救うためのミサイル対応を引き起こす唯一の方法であるが、同社の安全対策がそれを許可しなかった場合、どうなるだろうかという質問を投げかけ、AI応用の制限を解除するようアモデイ社を説得しようとした。 信号機。

アモデイの対応にはさまざまなバージョンがあるが、アンスロピックはこの場合、国防軍が自社のAIツールを制限なくミサイル防衛やサイバー作戦に使用できると公式に保証しており、これはクロードの軍事利用の制限を軽減する対応となる。

研究開発担当の国防次官エミール・マイケルは、国防総省とアンスロピックの対話者である。によると、同氏はテクノロジーの利用について最終決定権を持つべきはテクノロジー企業ではなく政府であるべきだと主張してきたという。 ワシントン・ポスト。マイケル氏はアモデイ氏が国防側の決定に干渉しようとしていると非難した。 「彼は米軍を個人的に統制しようとすること以外何も望んでいないし、我が国の安全を危険にさらすことに何の問題も感じていない」と彼はXに書いた。

元 OpenAI 研究者によって設立された Anthropic は、テクノロジーのセキュリティと倫理的および道徳的限界を最も懸念する AI スタートアップの 1 つとして自社を位置づけています。評価額は3,800億ドルで、国防総省から機密資料の取り扱いの認可を受けた初めてのAI企業となった。ここ数週間で イーロン・マスク氏の会社xAiなどの他の企業は、ライバルのChatGPT（OpenAI）やGemini（Google）が後れをとらないよう努める中、これらの機密文書を扱う許可も得ている。

この分野での競争が激化するにつれ、AIを推進するテクノロジー企業に対し、より迅速に進歩し、同分野がこのテクノロジーに充てている巨額の投資から利益を上げ始めるために基準を緩和するよう圧力が高まっている。