科学＆テクノロジー

戦争用 AI モデルの実際の姿

人類はそうかもしれない 米軍に自由なアクセスを与えることへの不安 しかし、一部のスタートアップは軍事用途に特化した高度な AI を構築しています。スマックテクノロジーズは今週3,200万ドルの資金調達ラウンドを発表したが、軍事作戦の計画と実行に関しては間もなくクロードの能力を超えるモデルを開発している。また、Anthropic とは異なり、このスタートアップは特定の種類の軍事利用を禁止することにそれほど関心を持っていないようだ。CEOのアンディ・マーコフ氏は、「兵役に就くということは、戦時規則に従って、名誉ある合法的な兵役に就くことを宣誓することになる」と語る。 「私にとって、テクノロジーを導入し、それが倫理的に使用されていることを確認する人々は、制服を着ている必要があります。」マルコフ氏は通常の AI 幹部とは言えません。米海兵隊特殊作戦軍の元司令官で、イラクとアフガニスタンにおける一か八かの特殊部隊作戦の実行に貢献した。彼は、同じく元海兵隊員のクリント・アラニスと、以前は Tinder で技術担当副社長を務めていたコンピューター科学者のダン・グールドとともに Smack を共同設立しました。スマックのモデルは、試行錯誤のプロセスを通じて最適なミッション計画を特定することを学習します。 Googleが2017年のプログラムAlphaGoを訓練した方法と同様。 Smack の場合、戦略には、さまざまな戦争ゲーム シナリオを通じてモデルを実行し、選択した戦略が功を奏するかどうかをモデルに伝える信号を専門アナリストに提供させることが含まれます。このスタートアップには従来のフロンティア AI ラボほどの予算はないかもしれないが、最初の AI モデルのトレーニングに数百万ドルを費やしている、とマーコフ氏は言う。戦線AIの軍事利用が国防総省関係者の発言を受けてシリコンバレーで話題になっている Anthropic幹部と対決した 約2億ドルの契約条件で。決裂につながった問題の1つで、国防長官ピート・ヘグセスが人間性を宣言する結果となった サプライチェーンのリスク、自律兵器でのモデルの使用を制限したいというAnthropicの願望でした。マルコフ氏は、この騒動によって、今日の大規模な言語モデルが軍事用途に最適化されていないという事実が曖昧になっていると述べている。クロードのような汎用モデルはレポートを要約するのが得意だと彼は言います。しかし、彼らは軍事データに基づいて訓練されておらず、物理世界に対する人間レベルの理解を欠いているため、物理ハードウェアの制御には不向きです。 「言えるのは、彼らには標的を特定する能力がまったくないということだ」とマークフ氏は主張する。「私の知る限り、陸軍省でキルチェーンの完全自動化について話している人は一人もいない」と彼は、致死的な武力の使用に関する意思決定に関わる手順について言及しながら主張した。ミッション範囲米国や他の軍隊はすでに、超人的な速度で反応する必要があるミサイル防衛システムなど、特定の状況で自律型兵器を使用している。「米国と他の30以上の州はすでに、さまざまな程度の自律性を備えた兵器システムを配備しており、その中には私が完全自律型と定義するものも含まれています」と、自律型兵器をめぐる法的問題の権威であるレベッカ・クロトフ氏は主張する。 リッチモンド大学法学部。将来的には、スマックが取り組んでいるような特殊なモデルは、ミッション計画の目的にも使用される可能性があるとマーコフ氏は述べています。同社のモデルは、指揮官が任務計画の立案に伴う単調な作業の多くを自動化するのに役立つことを目的としている。マーコフ氏によると、軍事任務の計画は依然としてホワイトボードとメモ帳を使って手作業で行われるのが一般的だという。もし米国がロシアや中国のような「近隣諸国」と戦争をした場合、自動化された意思決定は米国に切望されていた「意思決定の優位性」を提供する可能性があるとマルコフ氏は言う。しかし、そのような状況で AI を確実に使用できるかどうかはまだ疑問です。キングス・カレッジ・ロンドンの研究者によって行われた最近の実験では、LLM が エスカレートする傾向にあった 戦争ゲームにおける核紛争。 #戦争用 #モデルの実際の姿