米軍とAnthropic社との確執は、戦争で使用されるAIにとって何を意味するのでしょうか? | AI（人工知能）

あnthropic は何をめぐって国防総省と現在も戦いを続けている 安全上の制限 それはそれを身に着けることができます 人工知能 モデルはテクノロジー業界を魅了し、戦争で AI がどのように使用されるか、また企業に要求を満たすよう強制する政府の力を試すテストとして機能しました。

交渉は、連邦政府による許可をアンスロピックが拒否したことを中心に展開してきた。 クロード AI を使用する 国内の大量監視や自律型兵器システムに関する問題だが、この紛争はハイテク企業が自社の製品を紛争に組み込んだ場合に何が起こるかという厄介な性質も反映している。国防総省は今週、アンスロピック社が政府の条件への同意を拒否したことでサプライチェーンのリスクがあると宣言したが、アンスロピック社は法廷でこの指定に異議を申し立てると明言した。

ガーディアン紙は、以前は米国空軍に勤務していたコーネル大学の教授で技術政策研究所所長のサラ・クレプス氏に、この確執がどのように展開したかについて語った。

あなたは働きました しばらくの間 の上 「デュアルユース技術」を巡る問題民生用テクノロジーが機密目的または軍事目的にも使用されたらどうなるでしょうか?

私は軍隊にいて、新しい技術を開発し獲得する軍の側にいたので、このことについてよく考えてきました。なぜこんなに時間がかかるのかという批判はいつも受けていましたが、今、何が起こっているかを見ていると、なぜそんなに時間がかかるのかが分かりました。

あなたが機密および軍事的文脈向けに開発するものは、私がクロードを使用するときに Anthropic が開発したものとは大きく異なります。軍にとっての課題は、これらのテクノロジーが非常に便利であるため、軍用バージョンが利用可能になるまで待てないことです。これらのツールは非常に貴重であるため、彼らは迅速に行動する必要がありますが、AI プラットフォームと軍だけでなく、安全性をより重視しているという評判を醸成しようとしている AI プラットフォームとの間で文化的な違いに遭遇したことは驚くべきことではありません。

1つ この確執の要素は、Anthropic が自らを次のようにブランド化していることです。 安全を重視する企業ですが、その後契約を締結しました 軍との協定。

はい、Anthropic がこの結末に驚くであろう驚くべき方法があります。課題の 1 つは、Anthropic が 1 ～ 2 年前に次のような決定を下したようであることです。 チャットGPT は個人ユーザー向けであり、Anthropic はエンタープライズ市場を追い詰めようとしていた。つまり、彼らは個人のプランを販売しようとするのではなく、組織とビジネスをしようとしているのです。

私にとって不可解なのは、彼らが当時、国防総省やパランティアと取引を行っていたことだ。パランティアは、一部の人々が疑わしい目的でAIを使用するビジネスを行っていた。そのため、その決定は私にとって驚きでした。なぜなら、それは Anthropic がキュレーションしようとしていたブランドと非常に相反するものだったからです。

Anthropicはそうだったようです そのテクノロジーがかなり広範囲に使用されていることは問題ありませんが、 国内の大量監視と自律型致死兵器によって彼らが到達した越えてはならない一線だ。

いくつかの可能性があります。 1つは、これの一部はAnthropicの人々と人類の間の関係に関係しているということです。 トランプ政権、それは不信感の下向きのスパイラルにつながりました。

第二に、次のような状況がありました。 ベネズエラ そしてICE活動を巡る政治。これらのテクノロジーを合法的に使用するとは実際に何を意味するのでしょうか?という疑問があります。ある人の合法の定義は、別の人の定義とは大きく異なる場合があります。

国防総省の主張の一部は次のとおりだった。 国防上の問題があるなら、電話をかける必要はないはずだ ダリオ・アモデイ 承認を得るために。ここには、国家安全保障の意思決定において民間テクノロジー企業がどのような役割を果たしているかについて、実際の疑問があるように思えます。

事件のことを思い出してみると、 サンバーナーディーノの殺人犯のiPhone、当局はこれが時限爆弾のような状況であり、Appleが電話に侵入する必要があると懸念していました。 [In 2016, the FBI demanded Apple create a backdoor to grant them access to a mass shooter’s phone. Apple refused on privacy grounds, resulting in the FBI seeking out an independent third party to hack into the device]。

Anthropic の AI との違いは、これを軍に引き渡せば、それを自由に使用するために Anthropic の承認が必要なくなることです。それはハードウェアとソフトウェアの違いです。このソフトウェアを再利用して、明示的な合意に含まれていない方法で使用することはできますが、国家安全保障に基づいてそれを正当化できるようになりました。そして、Anthropic は国家安全保障の専門家の手に渡ったために、その影響力をすべて失いました。

そして、Anthropic はそれが何に使われているのかさえ分からないでしょう?

はい、まさにその通りです。それは単なるブラックボックスではなく、ブラックオプスや閉鎖された機密システムにも入り込みます。

今週興味深いことに、軍事における AI 利用に関する長年の疑問の多くが解決されつつあるようです。あなたは長い間これらの問題を追ってきましたが、今回の戦いを見てどう思いますか？

Anthropic の CEO の話を聞くと、彼はこうした実存的リスクやバイオテロへの AI の悪用について話していました。私はいつも、それらは遠すぎるか、手の届かないところにあると思っていました。このような日常的な事件の方がリスクが高いと思いました。

また、自律型兵器に関するこうした疑問を長い間予見してきた人々もいます。課題は、実際にループ内に人間がいるかどうかをどうやって知ることができるかということです。これは Anthropic が抱いていた懸念事項でした。これらのシステムが完全に自律的な方法で使用されているかどうかをどうやって知ることができるのでしょうか?米国は、完全に自律的な能力でAIを使用するつもりはないと言っているが、それが起こらないことを保証するためのそのプロセスがどのようなものであるかは明らかではない。これにはしばらく時間がかかりましたが、テクノロジーがますます洗練されてきたため、その方向に進むのはある意味必然だったと思います。現在紛争に巻き込まれているという事実は、それらのタイムラインをある意味加速させます。

AI による脅威や、人々が避けてきたこれらのレッドラインについてはよく話されていますが、AI はすでに戦争でどのように使用されているのでしょうか?

軍事現場で非常に役立つことがわかります。インテル側でいくつかの作業を行いましたが、課題の 1 つはコンテンツの不足ではなく、信号対雑音比です。膨大な量の情報がありますが、点と点を結びつけるのは非常に難しい場合があります。それは AI が得意とすることです。大量の情報を入力すると、信号が何であるかを識別するのに役立つ出力が生成されます。

パターン認識を探している場合、AI はパターン認識に非常に優れています。探している相関関係や特徴の種類を特定すると、識別するようにプログラムした内容に基づいて、イラン海軍の艦船などを特定します。これらの目標はかなり具体的であるため、ある意味ではそれほど物議を醸すことはありません。

人々がより不快に感じるのは、たとえば米国が対テロ攻撃を行うような環境です。地上には識別可能な特徴があまりない個人がいます。そのため、AI にとってはさらに危険な状況となり、三重チェックを確実に行う必要があります。彼は戦闘員かもしれないし、民間人かもしれない。これは海軍艦艇や地対空ミサイルではありませんが、誤解するのはより困難です。