OpenAIは軍事利用を禁止していた。国防総省はとにかくマイクロソフトを通じてモデルをテストした

OpenAI CEOのサム・アルトマン氏は、同社が米軍と契約を結んだ後も今週も注目を集めている。 OpenAIの従業員は、Anthropicの約2億ドルを受けてのこの動きを批判している。 国防総省との契約は破綻したとアルトマン氏に合意に関する詳細情報を公開するよう求めた。アルトマン氏は、ソーシャルメディアでは「ずさん」に見えると認めた 役職。

この事件は大きなニュースになったが、これは OpenAI が米軍の AI へのアクセス方法に関する曖昧なポリシーを作成した最新かつ最も公的な例に過ぎないかもしれない。

2023 年、OpenAI の使用ポリシーにより、軍による AI モデルへのアクセスが明示的に禁止されました。しかし、一部の OpenAI 従業員は、国防総省が既に Microsoft が提供する OpenAI モデルのバージョンである Azure OpenAI の実験を開始していることを発見した、と関係者 2 人は述べた。当時、マイクロソフトは数十年にわたり国防総省と契約を結んでいた。同社は OpenAI の最大の投資家でもあり、このスタートアップのテクノロジーを商業化する広範なライセンスを持っていた。

同年、OpenAIの従業員は国防総省職員が同社のサンフランシスコオフィスを歩いているのを目撃したと関係者は述べた。彼らは民間企業の問題についてコメントする資格がないため、匿名を条件に語った。

OpenAIの従業員の中には国防総省との関わりに慎重な人もいれば、OpenAIの利用ポリシーが何を意味するのか単純に混乱している人もいた。このポリシーは Microsoft に適用されましたか?情報筋は『WIRED』誌に、当時ほとんどの従業員にはそれが明らかではなかったと語ったが、OpenAIとMicrosoftの広報担当者は、Azure OpenAI製品はOpenAIのポリシーの対象ではなく、また対象ではなかったと述べた。

「マイクロソフトには、2023年に米国政府が利用できるようになったAzure OpenAIサービスという製品があり、これにはマイクロソフトの利用規約が適用される」と広報担当のフランク・ショー氏は『WIRED』への声明で述べた。 Microsoft は、いつ Azure OpenAI を国防総省に利用可能にしたのかについて具体的なコメントを拒否したが、このサービスは「」のために承認されていなかったと指摘している。極秘」 2025 年までの政府の仕事量。

OpenAIの広報担当者リズ・ブルジョワ氏は声明で、「AIはすでに国家安全保障において重要な役割を果たしており、AIが安全かつ責任を持って導入されるよう、テーブルに着くことは重要だと考えている」と述べた。 「私たちはこの取り組みに取り組む際、従業員に対して透明性を保ち、定期的な最新情報や、チームが質問したり国家安全保障チームと直接連携できる専用チャンネルを提供してきました。」

国防総省は『WIRED』のコメント要請に応じていない。

OpenAIは2024年1月までにポリシーを更新し、軍事利用の全面禁止を解除した。情報筋によると、OpenAIの従業員数名がThe Interceptの記事を通じてポリシーの更新を知ったという。その後、同社のリーダーたちは全員会議でこの変更について言及し、同社がこの分野で今後どのように慎重に取り組んでいくかを説明した。

2024 年 12 月、OpenAI は、「国家安全保障ミッション」のための AI システムの開発と展開を目的とした Anduril との提携を発表しました。同じ関係者によると、発表に先立ち、OpenAIは提携の範囲が狭く、未分類のワークロードのみを扱うものであると従業員に伝えたという。これは、Anthropic が Palantir と締結した、Anthropic の AI が機密軍事業務に使用されるという契約とは対照的であった。

OpenAIの広報担当者が『WIRED』に認めたところによると、Palantirは2024年の秋にOpenAIに「FedStart」プログラムへの参加について話し合ったという。同社は最終的にこれを拒否し、リスクが高すぎると従業員に伝えたと、この件に詳しい2人の関係者が『WIRED』に語った。ただし、OpenAI は現在、別の方法で Palantir と連携しています。

アンドゥリルとの契約が発表された頃、OpenAIの従業員数十人が公開Slackチャンネルに参加し、同社の軍事提携に関する懸念を話し合った、と情報筋が述べ、広報担当者も認めた。同社のモデルは信頼性が低すぎて、戦場でアメリカ人を支援することはおろか、ユーザーのクレジットカード情報を扱うこともできないと考える人もいた。