Anthropicが企業の倫理上の懸念を理由にトランプ大統領に取り下げられた後、OpenAIは国防総省と協力する | OpenAI

OpenAI AIを機密情報に提供する契約を国防総省と結んだと発表した 米軍 ネットワーク、数時間後 ドナルド・トランプ 政府に対し、同社の主要な競合企業の1社のサービスの使用を停止するよう命令した。

サム・アルトマン、OpenAIのCEOは金曜日の夜にこの動きを発表した。これは、クロード・システムを運営するライバルのAI企業アンスロピックとの間の合意と、アンスロピックが自社の技術が大規模監視や人間の介入なしで人々を殺害できる自律型兵器システムに使用されないという保証を求めたことで決裂した後に生まれた。

この契約を発表したアルトマン氏は、OpenAIと政府との合意には、OpenAIがそのような目的には利用されないという保証が含まれていると主張した。

「私たちの最も重要な安全原則の 2 つは、国内の集団監視の禁止と、自律型兵器システムを含む武力行使に対する人間の責任です」とアルトマン氏は述べた。 Xに書きました。同氏はさらに、国防総省は「これらの原則に同意し、法律や政策に反映させており、われわれはそれを協定に盛り込んでいる」と付け加えた。

アルトマン氏はまた、「法的措置や政府の措置からエスカレートし、合理的な合意に向かう」方法として、国防総省が「すべてのAI企業に同様の条件を提示する」ことを望んでいると述べた。

もし OpenAI の契約でそのシステムが非倫理的な目的で使用されることを禁止するのであれば、同社は Anthropic が得られなかった保証を受けることに成功したように見えるだろう。アルトマン氏は、大統領がすべての連邦機関に対し、人類技術の使用を「即時停止」するよう指示すると発表した直後に、政府との協定を発表した。

国防総省は、人類に対し、AIシステムに関する倫理ガイドラインを緩めなければ厳しい結果に直面するよう要求していた。

トランプ 言った 彼のTruth Socialプラットフォームで、「アンスロピック社の左翼狂人たちは、社会を強化しようとして悲惨な間違いを犯した」 [Pentagon]そして、憲法ではなく利用規約に従うよう強制します。」

OpenAIのスタッフが政府の合意にどう反応するかはまだ分からない。トランプ政権との戦いにおいて、アンスロピックは最も熾烈なライバルからの支持を集めてきた。約 500 人の OpenAI と Google の従業員が、 公開書簡 「私たちは分裂しない」と言っています。

書簡には「国防総省はアンスロピックが拒否した内容に同意してもらえるよう、グーグルやオープンAIと交渉している」と書かれている。 「彼らは、相手が屈服することを恐れて、各企業を分断しようとしているのです。」

アルトマン氏は金曜夜に送ったメモでOpenAIの従業員を安心させようとした。

「私たちがどのようにしてここに来たかに関係なく、これはもはや人類と人類の間だけの問題ではありません。 [Pentagon];これは業界全体の問題であり、私たちの立場を明確にすることが重要です」とアルトマン氏はメモに書いた。 アクシオスで入手。

「私たちは長い間、AIは大規模監視や自律型凶器に使用されるべきではなく、人間は一か八かの自動化された意思決定を常に把握すべきであると信じてきました。これらが私たちの主要な一線です。」

アルトマン氏はさらに次のように付け加えた。 [Pentagon] これにより、私たちのモデルを機密環境にデプロイできるようになり、私たちの原則に適合します。国内監視や自律型攻撃兵器など、違法またはクラウド導入に不向きな用途を除くあらゆる用途を契約でカバーするよう求めます。」

人間的、それ自体が最も重要であると主張します セーフティフォワード 大手AI企業の一部は国防総省との数カ月にわたる意見の相違で泥沼にはまっていた。米国防当局者らは、国を守るのに役立つとして、クロード氏の能力への自由なアクセスを求めていた。一方、アントロピックは、 抵抗した その製品は、集団の監視や自律的に人々を殺害できる兵器システムに使用することができます。

「どんなに脅迫や懲罰を受けても、 [Pentagon] 国内の大規模監視や完全自律型兵器に対するわれわれの立場は変わるだろう」とアンスロピックは金曜夜の声明で述べた。

「我々は誠意を持って合意に達するよう努力してきました。 [Pentagon]「上記の2つの狭い例外を除いて、国家安全保障のためのAIのすべての合法的な使用を支持することを明確にしています。私たちの知る限り、これらの例外はこれまで単一の政府任務に影響を与えていません。」と同社は続けた。

OpenAIが金曜日に発表した。 同社は大規模な資金調達ラウンドで1,100億ドルを調達しており、企業価値は8,400億ドルとなる。