ワシントン — 人工知能の軍事利用をめぐる一か八かの論争が今週、世間の注目を集めた。ピート・ヘグセス国防長官が、外国のサプライチェーンの脅威に対抗するための法律を利用して、米国企業に緋文字を突きつけるアンスロピック社と国防総省や他の政府機関との協力を無遠慮に打ち切ったからだ。
ドナルド・トランプ大統領とヘグセス氏は、同社の製品が大規模監視や自律型武装ドローンに使用される可能性があるとの懸念を理由にCEOのダリオ・アモデイ氏が撤回を拒否したことを受け、新進気鋭のAIスター、アントロピック社を国家安全保障を危険にさらしていると非難した。
サンフランシスコに本拠を置く同社は、アンスロピックをサプライチェーンリスクに指定するというヘグセス氏の呼びかけをめぐって訴訟を起こすと明言しており、外国の脅威に対抗することを目的とした法律を米国企業に適用するという前例のない動きである。
アンスロピック社は、「米国企業に対してこれまで公に適用されたことのない」法的に不健全な行為と称する行為に異議を申し立てると述べた。
差し迫った法廷闘争は、重大な岐路にあるビッグテックのパワーバランスだけでなく、AIの軍事利用を管理する規則や、テクノロジーが人命に脅威をもたらすことを防ぐために設けられたその他のガードレールにも大きな影響を与える可能性がある。
この騒動はすでに ChatGPT メーカー OpenAI のクーデターを引き起こしており、Anthropic がトランプ政権の条件の一部に反対した後、OpenAI はその隙を突いてその技術を国防総省に提供する機会を捉えた。これは、信頼性への疑問を理由に2023年末に自身の取締役会によって一時的に解任されたOpenAI CEOのサム・アルトマン氏と、AIの安全性への懸念もあり、2021年にOpenAIを退社してAnthropicを立ち上げたアモデイ氏との間の敵意をさらに深めることになりそうな出来事である。
サプライチェーンリスクに指定された場合の影響
Anthropic社を国の防衛サプライチェーンに対するリスクと認定する国防総省の動きにより、このAI企業との最大2億ドルの契約は終了することになる。国防総省によると、他の防衛請負業者がアンスロピック社と取引することも禁止されるという。
トランプ大統領はTruth Socialに、ほとんどの政府機関はAnthropic社のAIの使用を直ちに中止すべきだが、すでに軍事プラットフォームに組み込まれている技術を段階的に廃止するために国防総省には6か月の猶予を与えたと書いた。
アンスロピックは、ヘグセスには他の防衛請負業者との取引関係を停止する法的権限がないと主張している。アンスロピック社と商業契約を結んでいる企業は、防衛以外のプロジェクトでも自社製品を使用し続けることができる、と同社は声明で述べた。
サプライチェーンのリスク指定は、潜在的な安全保障上のリスクを引き起こす企業に対する国防総省の暴露を制限する方法を米軍指導者に与えるために創設された。このリストには通常、中国とつながりのある通信大手ファーウェイや、ロシアとつながりのあるサイバーセキュリティ専門会社カスペルスキーなど、敵対者とつながりのある企業が含まれている。
Anthropic の場合、この指定は他の AI および防衛企業に対する警告として機能します。要求に応じなければブラックリストに登録されます。
「私たちはそれを必要としません、私たちはそれを望んでいません、そして彼らとは二度と取引しません！」トランプ大統領はソーシャルメディアでこう語った。
トランプ大統領による国防総省に対する6カ月の猶予期間は、実質的に他の企業が国防総省と協力するために必要な機密機密許可を取得できる機会を開くものである。
対立が Anthropic のビジネスに与える影響
アンスロピック社は、まだヘグセス氏の指定について正式に通知されていないと述べている。
アモデイ氏は日曜日の朝に放送されるCBSニュースとのインタビューで、「何らかの正式な訴訟を受けたら、それを検討し、理解し、法廷で異議を申し立てるつもりだ」と誓った。
アンスロピックは今のところ、トランプ政権のサプライチェーンリスク指定は、軍需請負業者が国防総省の業務でツールを使用する場合に、同社のAIチャットボット兼コンピューターコーディングエージェントであるクロードの使用にのみ影響することを企業や政府機関に説得しようとしている。
「他の目的での使用は影響を受けません」とAnthropicは声明で述べた。
Anthropic にとって、今年予想される 140 億ドルの収益のほとんどは、コンピュータ コーディングやその他のタスクに Claude を使用している企業や政府機関によるものであるため、この区別を明確にすることが重要です。同社の価値を3,800億ドルと評価した投資額を明らかにした発表によると、500人以上の顧客がアンスロピック社にクロードのために少なくとも年間100万ドルを支払っているという。
Anthropic の Claude テクノロジーは非常に注目を集めており、Salesforce や Workday などの大手テクノロジー企業が現在販売している幅広いビジネス ソフトウェア ツールの有力な代替品として浮上しています。その可能性により、ビジネスソフトウェアをサービスとして販売する企業の株価が今年急落した。
しかし、アンスロピックがサプライチェーンのリスクとみなされた今、顧客が今後もクロードを非軍事的な仕事に安心して使い、トランプ大統領の怒りを買うリスクがあるかどうかについては、いくぶん不確実性がある。過去 1 年間にクロードがこれだけ進出してきたにもかかわらず、クロードの使用に消極的な状況が広がれば、経済と社会の再構築が期待される技術において米国が中国に先んじようと躍起になっている現在、米国における AI の進歩が遅れる可能性がある。
同時に、アンスロピック社とアモデイ社は、AI の動作方法に関してより強固なガードレールを構築するという議題を推進するための、いじめっ子の説教壇を手に入れたかもしれません。
同社は「陸軍省からのいかなる脅迫や処罰も、国内の大規模監視や完全自律型兵器に対するわれわれの立場を変えることはない」と述べた。 「私たちはサプライチェーンのリスク指定に対して法廷で異議を申し立てます。」
アモデイ氏はCBSとのインタビューで、アンスロピック社とトランプ政権との論争を民主主義の立場として描写した。
「政府に同意しないことは、世界で最もアメリカ的なことだ」とアモデイ氏は語った。 「そして私たちは愛国者です。ここで行ったことすべてにおいて、私たちはこの国の価値観を擁護してきました。」
OpenAIがリングに上がる
競合他社が処罰されてから数時間後、OpenAIのアルトマン氏は金曜夜、自社のAIを機密軍事ネットワークに提供する契約を国防総省と結んだと発表した。しかしアルトマン氏は、Anthropicと国防総省との論争の行き詰まり点となった同じAI制限が、現在ではOpenAIの新たなパートナーシップにも盛り込まれていると述べた。
AP通信が入手したメモの中で、アルトマン氏はOpenAIの従業員に対し「AIは大規模監視や自律型凶器に使用されるべきではなく、一か八かの自動化された意思決定については人間が常に関与すべきだと長年信じてきた。これらが私たちの主要な一線である」と語った。
なぜ国防総省がOpenAIのレッドラインには同意したが、Anthropicのレッドラインには同意しなかったのかは不明である。しかし、アルトマン氏はメモの中で、同社は健全な安全保護を遵守しながら国防総省と協力することで「事態のエスカレーションを和らげることができる」と信じていると書いている。
OpenAIとトランプ政権との契約は、サンフランシスコに本拠を置く同社の価値を7,300億ドルと評価する注入の一環として、さらに1,100億ドルを調達すると発表したのと同じ日に締結された。
しかし、OpenAIはまた、国防総省との取り組みが、ChatGPTをAIの安全性よりも利益の追求を優先する例として使用する米国の消費者に広く見られれば、潜在的な反発に直面する可能性がある。
人類の亀裂は、マスク氏に新たなチャンスをもたらす可能性もある。マスク氏は2015年にアルトマン氏とOpenAIを共同設立したが、その後安全性への懸念や財政問題で両者は激しく衝突した。マスク氏は、4月下旬に裁判が予定されている訴訟でアルトマン氏を詐欺やその他の欺瞞行為で告発した。
マスク氏は現在、AIチャットボット「Grok」を監督しているが、国防総省は性的ディープフェイク画像の作成に関する政府の捜査に加え、その安全性と信頼性にも関わらず、機密軍事ネットワークへのアクセスを与えることも計画している。マスク氏はすでにアモデイ氏との争いでトランプ政権を応援しており、自身のソーシャルメディアプラットフォームXで「人類は西洋文明を憎んでいる」と述べた。
Gemini技術をベースに広く使われている一連のAIツールを開発したGoogleも、米軍からさらなるビジネスを獲得しようとしている可能性があるが、同社従業員の声高な側面は、同社のかつてのモットーである「邪悪になるな」に違反する取引を避けるよう幹部らに懇願している。グーグル幹部らはこれまでのところ、アンスロピックとトランプ政権の不仲について公に議論していない。
Liedtke氏はカリフォルニア州サンラモンから報告した。