AIはイラン戦争において米国に致命的な優位性を与える可能性がある – しかし危険もある |科学、気候、技術ニュース

サイエンスフィクションのことは忘れてください。戦争における AI の時代が到来しました。

イスラエルはAIシステムを次の分野で使用しています。 ガザ 潜在的なターゲットにフラグを立てて、作戦の優先順位付けを支援します。

米軍はアンスロピックのモデル、クロードを作戦中に使用したと伝えられている。 ベネズエラからのニコラス・マドゥロ拉致作戦。

そしてその後も アントロピックは米国政府と問題を抱えた 正確にどのように AI 戦争で使用されるべきだが、米軍は依然としてクロードを攻撃に使用したようだ。 イラン。

イラン最新情報：トランプ大統領、英国の姿勢を巡りスターマー氏を批判

専門家らは、今日テヘラン上空を飛行するミサイルがAIを搭載したシステムによって標的にされている可能性が高いと述べている。

ニューカッスル大学の政治地理学上級講師クレイグ・ジョーンズ氏は、「AIは21世紀の現代戦争の性質を変えつつある。AIがこれまでに与え、そしてこれからも与えるであろう影響を誇張することは難しい」と語る。

「それは潜在的に恐ろしいシナリオだ。」

恐ろしいかどうかは別として、もう後戻りはできないようだ。米軍が AI をいかに重要視しているかを知りたければ、陸軍長官を自称するピート・ヘグセス国防長官が今年初めに全軍幹部に送ったメモから始めるとよいだろう。

「私は陸軍省に対し、前線から後方まであらゆる要素にわたって『AIファースト』の戦闘部隊となることで、米国の軍事AI優位性を加速するよう指示する」とヘグセス氏は書いた。

これは実験ではなく、AI を迅速かつ大規模に導入するという命令です。

ヘグセスの言葉を借りれば、「スピードは勝つ」です。

しかし、問題のシナリオは、最初に思い浮かぶようなものではありません。

はい、一部の地域では自治権が拡大しています。で ウクライナたとえば、人間のオペレーターとの連絡が途絶えた後でもミッションを継続できるドローンがあります。

しかし、私たちは自律型殺人ロボットが戦場を闊歩する段階には至っていない。

「私たちはまだターミネーターの時代ではありません」とロンドンのクイーンメアリー大学の倫理、テクノロジー、社会の教授であるデイビッド・レスリーは言う。

AIが組み込まれているシステム（軍事用語では「意思決定支援システム」として知られる）は、標的にフラグを立て、脅威をランク付けし、優先順位を提案するアドバイザーである。

AI システムは、衛星画像、傍受された通信、物流データ、ソーシャル メディア ストリーム (数千、さらには数十万の入力) をまとめて、人間のチームよりもはるかに速くパターンを表面化できます。

そのアイデアは、それらが戦争の霧を切り裂くのに役立ち、指揮官が最も重要な場所にリソースを集中できるようにしながら、潜在的に疲れ、圧倒され、ストレスを感じている人間の兵士よりも正確であるということです。

これは、それらが単なるツールではなく、意思決定を行うための新しい方法であることを意味するとジョーンズ博士は言います。

「私たちの生活の中で見られるように、AI はむしろインフラストラクチャーのようなものです」と彼は言います。 「それはシステムに組み込まれています。」

「私たちは数年間にわたって監視を収集する能力を持っています。

「しかし今、AIはそれに基づいて行動し、イランの指導者を殺害し、重大な敵対者や重大な敵を排除し、これまで発見されなかったであろうあり得ない方法で彼らを発見するための安定性を与えている。」

「非常に説得力のあるツール」

レスリー教授は、新しいシステムが軍事的な観点から非常に有能であることに同意します。

「スピードを求める競争がこの普及を促進しているのです」と彼は言う。 「意思決定サイクルをより速くすることは、致死性という軍事的利点をもたらす。」

意思決定支援システムの重要な特徴は、AI がボタンを押さないことです。人間ならそうします。それが軍事AIに関する議論における中心的な安心感となっている。常に「ループの中にいる人間」が存在します。

として OpenAIを作っている会社です。 チャットGPTは、国防総省にAIを供給する提携を発表した後、「我々は政府を支援する前方展開のOpenAIエンジニアを排除し、安全性と調整の研究者を確実に関与させることになるだろう」と述べた。

OpenAIはまた、国内の大規模監視、直接自律兵器システム、一か八かの自動決定という3つの「越えてはならない一線」を越える方法で自社の技術が使用されないという点で国防総省との合意を取り付けたことも強調した。

しかし、人間が関与したとしても、疑問は残ります。

続きを読む：
AIは戦争ゲームで「核攻撃」をいとわない、研究で判明
クロード オーパス 4.6: この AI は「自動販売機テスト」に合格したばかりです

戦争をしているとき、人間はAIのそれぞれの決定を本当にチェックできるのでしょうか？時間が圧縮され、情報が不完全な場合、「人間の監視」とは一体何を意味するのでしょうか？

「人間は技術的には最新情報を把握しています」とジョーンズ博士は言います。

「それは、私の意見では、彼らが効果的な意思決定権を持ち、何が起こったのかを正確に監視できるほど十分な情報を持っているという意味ではありません。AIは…意思決定をする人々にとって非常に説得力のあるツールです。」

あるいは、レスリー教授が言うように、「私たちは、ゴムスタンプの潜在的な大規模な危険に実際に直面しています。スピードが関係するため、これらのシステムによって出されている推奨事項を評価するための、人間の積極的で重要な関与がありません。」

そして、AI 自体の誤りやすさの問題もあります。

続きを読む：
英国はキプロスにHMSドラゴンを配備する予定、首相が確認
イランQ&A: なぜトランプ大統領はすぐに勝利宣言をしようとしたのか

Sky Newsによるテストでは、ニワトリが期待どおりに見えなかった場合、クロードもChatGPTもニワトリに足が何本あるかを判断できないことが判明した。

さらに、AIは、それが明らかに間違っている場合でも、それが正しいと主張しました。

この例は、同様の失敗の例を数十例示した論文から引用したものです。 「これは動物の足の 1 回限りの例ではありません」と筆頭著者の Anh Vo 氏は述べています。

「この問題は、データやタスクの種類を問わず一般的なものです」と Vo 氏は付け加えた。

その理由は、AI が人間の感覚で世界を実際に認識しているわけではなく、過去のデータに基づいて最も可能性の高いものを推測するためです。

ほとんどの場合、この種の統計的推論は驚くほど効果的です。世界は確率が機能するほど十分に予測可能です。

しかし、一部の環境はその性質上、予測不可能で一か八かのリスクを伴います。

私たちは、想像できる限り最も過酷な状況でこのテクノロジーの限界をテストしています。