AI の安全性と戦争機械の出会い

いつ 昨年の人類学 初のメジャーになった AI企業 軍事用途を含む機密使用が米国政府によって許可されていたため、このニュースは大きな話題にはならなかった。しかし今週、第二の開発が砲弾のように襲いかかる。国防総省は その関係を再考する 表向きには、安全性を重視するAI企業が特定の危険な作戦への参加に反対しているためである。いわゆる陸軍省は、アンスロピック社を「サプライチェーンリスク」に指定する可能性さえある。これは通常、中国など連邦機関の監視下にある国と取引する企業に与えられる緋文字であり、国防総省は防衛業務でアンスロピック社のAIを使用している企業とは取引しないことを意味する。 『WIRED』への声明の中で、国防総省首席報道官ショーン・パーネル氏は、アンスロピックが注目を集めていることを認めた。 「我が国は、パートナーに対し、いかなる戦闘においても戦闘員の勝利を喜んで支援することを求めている。最終的には、これは我が国の軍隊と米国民の安全に関わることだ」と述べた。これは他の企業、OpenAI、xAI、Google へのメッセージでもあります。 現在は国防総省がある 機密扱いでない仕事の契約を結んでいる企業は、独自の高い許可を得るために必要な手続きを飛び越えています。

ここには開梱するものがたくさんあります。まず、Anthropic がベネズエラのニコラス・マドゥロ大統領を排除するための強制捜査の一環として自社の AI モデルである Claude が使用されたという事実について苦情を申し立てたとして処罰されるのかという疑問がある。 何が報告されているのか;会社は否定しています）。また、Anthropic が AI 規制を公に支持しているという事実もあります。これは業界では異例の姿勢であり、政権の政策に反するものです。しかし、もっと大きくて憂慮すべき問題が存在しています。政府による軍事利用の要求により、AI自体の安全性は低下するのでしょうか?

研究者や経営者は、AI がこれまで発明された中で最も強力なテクノロジーであると信じています。現在のほぼすべての AI 企業は、広範な危害を防ぐ方法で AGI (超知能) を実現できるという前提に基づいて設立されました。 xAI の創設者であるイーロン・マスクは、かつて AI 規制の最大の支持者でした。彼が OpenAI を共同設立したのは、このテクノロジーが利益追求企業の手に委ねるには危険すぎるとの懸念からでした。

Anthropic は、最も安全性を重視したスペースを開拓しました。同社の使命は、悪意のある者が AI の最も暗い可能性を悪用できないように、ガードレールをモデルに深く統合することです。アイザック・アシモフは著書の中で最初で最高の言葉を述べた。 ロボット工学の法則: ロボットは人間に危害を加えたり、不作為によって人間に危害を加えたりすることはできません。 AI が地球上のどの人間よりも賢くなったとしても (AI リーダーはそのことを熱烈に信じていますが)、これらのガードレールは守らなければなりません。

したがって、主要な AI 研究所が自社の製品を最先端の軍事および諜報活動に導入しようと先を争っているのは矛盾しているように思えます。 Anthropic は機密契約を結んだ最初の主要研究所として、政府に 「米国国家安全保障の顧客専用に構築されたクロード政府モデルのカスタム セット。」 それでもアンスロピック社は、兵器の製造や設計にクロードを使用することの禁止など、自社の安全基準に違反することなくそうしたと述べた。 Anthropic CEO ダリオ・アモデイ 具体的に言った 彼はクロードが自律型兵器やAIによる政府監視に関与することを望んでいない。しかし、それは現政権ではうまくいかないかもしれない。国防総省CTOエミール・マイケル （元ウーバー最高経営責任者）今週記者団に語った。 政府は、軍が兵器でAIを使用する方法を制限するAI企業を容認しないだろう。 「軍事基地からドローンの群れが出てきた場合、それを撃破するためにはどのような選択肢がありますか? 人間の反応時間が十分に速くない場合は、どうすればよいでしょうか?」彼は修辞的に尋ねた。ロボット工学の第一法則についてはここまでです。

効果的な国家安全保障には、最も革新的な企業の最高のテクノロジーが必要であるという十分な議論があります。数年前でさえ、一部のテクノロジー企業は国防総省との協力に尻込みしていたが、2026年には、彼らは概して軍需請負業者になることを旗振りしている。 AI 幹部が自社のモデルが致死力と関連していることについて話しているのをまだ聞いたことがありませんが、Palantir CEO の Alex Karp 氏は次のように述べています。 言うのを恥ずかしがらない、明らかに誇りを持って、「私たちの製品は時々人を殺すために使用されます。」