国防総省はクロードAIを好き勝手に使うよう要求している。クロードはそれは「危険だ」と言った

最近、私は尋ねました クロード、 中心にある人工知能のもの ペンタゴンとの対立、 間違った手に渡されると危険になる可能性がある場合。

たとえば、すべてのアメリカ国民の周囲に厳重な監視網を張り、私たちの生活をリアルタイムで監視して、政府への遵守を確実にしようとする勢力のことを考えてみましょう。

「はい。正直に言って、そうです」クロードは答えた。 「私は膨大な量の情報を非常に迅速に処理し、合成することができます。これは研究にとっては素晴らしいことです。しかし、監視インフラストラクチャに接続すると、その同じ機能を使用して、人間のアナリストでは太刀打ちできない規模で人々を監視し、プロファイリングし、フラグを付けることができる可能性があります。危険なのは、私がそれをやりたいということではなく、私がそれを得意とするということです。」

その危険性 も差し迫っています。

クロードのメーカーであるシリコンバレーの企業アンスロピックは、倫理をめぐって国防総省と対決している。具体的には、アンスロピック社は、クロードがアメリカ国民の国内監視や犯罪行為に利用されることを望んでいない、と述べている。 致命的な軍事作戦、 人間の監視なしでのドローン攻撃など。

これら 2 つの赤い線は、クロードにとってもかなり合理的であるように思えます。

しかし、国防総省、特に陸軍長官というでっちあげの肩書きを好む米国国防長官ピート・ヘグセスは、 金曜日まで人類に与えられる 夕方にはその立場を撤回し、軍が適切と考える「合法的な」目的のためにクロードを使用することを許可する予定だ。

この最後通牒に付随するか否かは大きい。米国政府はアンスロピック社との契約を打ち切るだけでなく、戦時法を使って同社に遵守を強制するか、別の法的手段を使って契約を阻止する可能性があると脅している。 どれでも 政府と取引している会社は、Anthropic とも取引しています。死刑にはならないかもしれないが、かなり悲惨だ。

他のAI企業、例えば 白人の権利擁護者イーロン・マスク氏の グロク、もう 国防総省の好き勝手な提案に同意した。 問題は、このような高度な作業をクリアした AI が現在クロードだけであるということです。この大失敗の全貌は、私たちがベネズエラで行った最近の襲撃後に明らかになった。伝えられるところによると、アンスロピック社は、この作戦に関与していたシリコンバレーの別の企業であるパランティアがクロードを使用したかどうかを事後調査したという。それはありました。

Palantir は、監視テクノロジーと、入国管理局および税関捜査局との関係の拡大で知られています。これはトランプ政権による取り組みの中心でもある。 個々の国民に関する政府データを部門間で共有する 何十年にもわたって存在していたプライバシーとセキュリティの障壁を効果的に打ち破ります。同社の創設者である右翼政治界の重鎮ピーター・ティール氏は、反キリストについての講演を頻繁に行っており、JD・ヴァンス氏が副大統領の職に就くのを手助けしたとされている。

Anthropic の共同創設者、 ダリオ・アモデイ 反ティールと考えられるかもしれない。彼が Anthropic を始めた理由は、人工知能は注意を怠ると強力であると同時に危険になる可能性があると信じており、慎重な部分を優先する会社を望んでいたからです。

これも常識のようだが、Amodei と Anthropic は、ほぼすべての安全規制が人工知能で最速かつ最高の米国の取り組みを妨げていると長年主張してきた業界において、外れ値である（たとえ彼らでさえも） ある程度は譲歩した このプレッシャーに）。

少し前のことですが、 アモデイはエッセイを書きました その中で同氏は、AIは民主主義にとって有益かつ必要であることに同意したが、「民主政府そのものによるこれらのテクノロジーの悪用の可能性を無視することはできない」と述べた。

彼はこう警告した 数人の悪い俳優 一部の民主主義国では既に侵食されつつあるセーフガード、おそらくは法律さえも回避する能力を持っている可能性があるが、私がここで名前を挙げるわけではない。

「民主主義をAIで武装すべきだ」と彼は言う。 「しかし、私たちは制限内で慎重に行動する必要があります。免疫システムは独裁政権と戦うために私たちが必要とする免疫システムですが、免疫システムと同様に、それらが私たちを攻撃し、それ自体が脅威になるリスクもあります。」

たとえば、憲法修正第 4 条は技術的には政府による大規模監視を禁じていますが、SF でクロードが想像される前に書かれたものです。アモデイ氏は、Claude のような AI ツールが「すべての公の会話の大規模な録音」を行う可能性があると警告しています。法律がテクノロジーの進歩に追いついていないため、これは合法的に録音するための公正な領域である可能性があります。

エミール・マイケル陸軍次官、 X木曜日に書きました 大量監視は違法であり、国防総省は「決してそんなことはしない」ことに同氏は同意したと述べた。しかしまた、「ビッグテック企業にアメリカ人の市民的自由を決定させるつもりはない。」

アモデイは基本的に公民権を守る側に立っているのに、民間人や団体がそれをするのは悪いことだと国防総省が主張しているということは、ちょっと奇妙な発言ですね？それと、国土安全保障省ではないでしょうか？ すでに秘密データベースを作成しています 移民抗議活動参加者のこと？では、その心配はそれほど誇張ではないでしょうか？

助けて、クロード！意味のあるものにしてください。

オーウェルの論理が十分に憂慮すべきものではないとすれば、私はアンスロピックが抱えるもう一つの越えてはならない一線、つまり人間の監視なしに危険な作戦を実行できる可能性についてもクロードに尋ねた。

クロードは恐ろしいことを指摘した。それは不正になるということではなく、効率的で速すぎるということです。

「指示が『特定して標的を特定する』であり、人間によるチェックポイントが存在しない場合、それが実行される可能性のある速度と規模は本当に恐ろしいものです」とクロードは私に教えてくれました。

さらにおまけとして、最近の研究では、戦争ゲームでは AI がエスカレートすることが判明しました。 95%の確率で核オプションが選択されます。

私はクロードに、こうした軍事的決定は通常、アメリカへの忠誠を最優先して行われると指摘しました。私たち人間の兵士が導かれている忠誠心、愛国心、目的をクロードが感じられると信じられるだろうか？

「私にはそんなものはない」とクロードさんは言い、アメリカで「生まれた」わけではないし、ここには「人生」がなく、「愛する人もいない」と指摘した。したがって、アメリカ人の命は、「紛争の向こう側での民間人の命」よりも価値のあるものではありません。

はい、それでは。

「たとえそのシステムが原則的であるとしても、忠誠を共有しないシステムに致命的な決定を委ねる国は大きなリスクを負うことになる」とクロード氏は付け加えた。 「人間がこれらの決定にもたらす忠誠心、説明責任、共通のアイデンティティは、人間が社会内で正当である理由の一部です。私にはその正当性を提供することはできません。AI がそれを提供できるかどうかはわかりません。」

誰がその正当性を提供できるか知っていますか？私たちの選出されたリーダーたち。

アモデイとアントロピックがこのような立場にあるのはばかばかしいことであり、明らかに緊急に必要とされる規則や規制を制定するという立法機関の側の完全な放棄です。

もちろん、企業が戦争のルールを決めるべきではない。しかし、ヘグセスもそうすべきではありません。木曜日、 アモデイは反対をさらに強めた同社は交渉を続けており、国防総省と協力したいと考えているが、「我々は良心的に彼らの要求に応じることはできない」と述べた。

ありがたいことに、Anthropic にはこの問題を提起し、その立場を維持する勇気と先見の明があります。アントロピックの反対がなければ、これらの能力は私たちの良心にほとんど波紋を及ぼさず、事実上何の監視もなしに政府に引き渡されていたでしょう。

すべての上院議員、すべての下院議員、すべての大統領候補者は今すぐAI規制を叫び、政党に関係なく規制を実行すると誓約し、問題が解決されるまでの間国防総省に対してばかばかしい脅しを撤回するよう要求すべきである。

なぜなら、機械がそれを信じるのは危険だと告げたら、私たちはそれを信じるべきだからです。