AI企業が戦争をすると安全は置き去りにされる

私は費やしました ここ数日、AI企業に、 AIの安全性 暗くなっていない。ほんの数年前までは、世界的な合意があったように見えました。 企業、 議員、そして一般の人々は、AIに対する深刻な規制と監視が必要であるだけでなく、避けられないものであると考えました。人々は、国際機関が AI を他の新興テクノロジーよりも真剣に扱うためのルールを設定し、それが少なくともその最も危険な実装に障害を与える可能性があるのではないかと推測していました。企業は競争や利益よりも安全を優先すると誓った。破滅的な人々が依然としてディストピア的なシナリオを紡ぐ一方で、AI の利益を享受しながら AI のリスクを制限するという世界的なコンセンサスが形成されつつありました。

先週の出来事は、こうした希望にボディーブローを与えた。 激しい確執 ペンタゴンと人類の間。すべての関係者は、アンスロピック社の主張により、かつて両社間の既存の契約で、国防総省（現在は明らかに陸軍省と名乗っている）がアンスロピック社のクロード AI モデルを自律型兵器やアメリカ国民の大量監視に使用しないと明記されていたことに同意している。現在、国防総省はこれらのレッドラインを消去したいと考えており、アンスロピック社の拒否は契約終了をもたらしただけでなく、ピート・ヘグセス国防長官に次のように促した。 会社を宣言する サプライチェーンのリスク、政府機関が Anthropic と取引することを妨げる指定。契約条項やヘグセス氏とAnthropic CEOのダリオ・アモデイ氏との間の個人的な力関係などの雑草には立ち入らないが、要するに軍は、少なくとも合法性の範囲内で、つまり軍自身の定義によると、AIの使用方法に対するいかなる制限にも抵抗する決意をしているようだ。

より大きな問題は、人間の標的を特定して排除する殺人ロボットのドローンや爆弾の放出が、米軍さえも検討するものとして議論されるところまでどのようにして至ったのかということのようだ。戦闘地域をスキャンしたり、国境をパトロールしたり、麻薬密輸業者を監視したりする致死性の自律型ドローンの群れを作ることのメリットについての国際的な議論を見逃したのだろうか？ヘグセスと彼の支持者たちは、民間企業が軍のできることを制限している不条理について不満を抱いている。制御不可能になる可能性のあるテクノロジーを阻止するために、存続に関わる制裁を負う危険を冒してまで、単独の企業が必要となることのほうが、もっとクレイジーだと思います。いずれにせよ、国際協定が欠如しているということは、すべての高度な民兵は、単に敵に対抗するためだけに、あらゆる形態で AI を使用しなければならないことを意味します。現時点では、AI の軍拡競争は避けられないようです。

リスクは軍事をはるかに超えて広がっています。国防総省のドラマの影に隠れていたのは、 不穏なアナウンス Anthropic は 2 月 24 日に投稿しました。同社は、責任あるスケーリング ポリシーと呼ばれる、AI による壊滅的なリスクを軽減するためのシステムに変更を加えていると発表しました。これは Anthropic の重要な設立方針であり、同社は AI モデルのリリース スケジュールを安全手順に結び付けることを約束しました。この方針では、最悪の場合の使用を防ぐガードレールなしでモデルを発売すべきではないと述べた。これは、先進技術の導入を急ぐあまりに安全性が無視されないようにするための社内インセンティブとして機能しました。さらに重要なことは、アンスロピック社は、このポリシーを採用することで、他の企業が同じことをするよう刺激したり恥をかかせたりすることを期待していました。このプロセスを「頂上への競争」このような原則を具体化することで、AI が引き起こす可能性のある混乱を制限する業界全体の規制に影響を与えることが期待されていました。

最初は、このアプローチは有望に思えました。 DeepMind と OpenAI は、Anthropic のフレームワークの側面を採用しました。最近では、投資額が膨れ上がり、AI 研究所間の競争が激化し、連邦規制の見通しがより遠のき始めていることに伴い、Anthropic は、責任あるスケーリング ポリシーが不十分であることを認めました。このしきい値では、AI が期待していたような AI のリスクについてのコンセンサスが形成されませんでした。同社がブログ投稿で述べたように、「政策環境はAIの競争力と経済成長を優先する方向に移行しているが、安全性指向の議論はまだ連邦レベルで有意義な推進力を獲得していない。」

その一方で、AI企業間の競争はさらに熾烈を極めている。 AI のライバル関係は、頂点を目指す競争というよりも、ベアナックル版のキング・オブ・ザ・マウンテンのように思えます。国防総省が Anthropic を追放すると、OpenAI は独自の国防総省との契約でそのギャップを埋めることに急いだ。 OpenAIの最高経営責任者（CEO）サム・アルトマン氏は、アンスロピック社への圧力を軽減するために国防総省と性急な協定を結んだと主張したが、アモデイ氏にはそのような考えはなかった。 「サムは我々の立場を支持しているように見せながら、我々の立場を損なおうとしている」とアモデイ氏は声明で述べた。 社内メモ。 「彼は私たちの国民の支持を減らすことで、行政が私たちを罰することを可能にしようとしているのです。」 (アモデイ 後で謝罪した 彼のメッセージの口調について。）