国防総省が「地下室で殺人ロボットを製造」しているのではないかと懸念、AI規則を厳格化

比較的新しい国防総省の指令では、ほとんどの自律型兵器の開発と承認に対するより厳格な審査プロセスが追加されており、これは「良い統治」の一環であると当局者は最近述べた。 しかし、米国だけでなく中国などの軍事分野でもAIがブームになっているため、チェックを求める国際的な圧力が高まっている。 テクノロジーの使用と機能は拡大しています。

去年、 国防総省が指令を更新 この変化は「私たちの周りで起こっている技術の劇的な進歩」によるものであり、国防副長官キャスリーン・キックス博士は、世界におけるAIの大規模かつ急速な発展を反映していると述べた。この10年間。

おそらく、AIに関する国防総省の指令における最大の変更は、上級審査ポリシーを盛り込んだことであり、これは「自律型と半自律型の両方の動作モードを備えた兵器システムを含む自律型兵器システム」が多数の国防高官の承認を必要とするものである。開発が始まる前と、テクノロジーが実用化される前にもう一度。

この指令の改訂では、兵器システムにおける AI の開発に関する国防総省のより慎重な文言の一部に沿って、より厳格な規則が追加されています。 また、軍開発と新たな能力を担当する国防副次官補マイケル・C・ホロウィッツ博士によれば、これはAIと軍事応用に関する国防総省の意図をめぐるいくつかの混乱を解明するのにも役立つという。

戦略国際問題研究所 (CSIS) ワドワニ AI および先端技術センターのパネルにて 国防総省の AI および自律性ポリシーの現状 ホロウィッツ氏は今月初め、指令改訂の目的は「率直に言って、ほぼ良い統治策だ」と述べた。

「私たちは最終的に、国防総省が地下室で殺人ロボットを製造しているのではないかと局外の関係者が考える状況に陥りました」とホロウィッツ氏は説明した。

「そして部門内では、この指令の実際の内容について多くの混乱があり、この指令はおそらく特定の特性を持つ、あるいは一般的な自律型兵器の開発を禁止していると実際に考えている人もいた。」と彼は続けた。

したがって、新しい指令は、AI兵器開発に関する国防総省の方針に関して「何が許可され、何が許可されないか」を明確にしている。 地下には殺人ロボットはいないかもしれないが、軍が積極的に研究しているAIの場所がある。

この指令は、ホロウィッツ氏が述べたように「多数の同時ミサイル攻撃から米軍基地を守る」技術など、特定の免除カテゴリーに当てはまらない自律型兵器システムは、審査を通過しなければならないことを明らかにした。他のすべてのテストおよび評価要件に加えて、上級レビュー プロセスを実行します。

方針によると、このプロセスには複数の国防次官のほか、統合参謀本部副議長も参加する。

「これは官僚主義を大きく引き上げるものだ」とホロヴィッツ氏は語った。

この動きは、AI兵器システム開発に対する米国の関心の高まりと進歩を反映している。 戦場ではドローンが支配的な要素となり、自律性が重要な追求となっているウクライナでの現在進行中の戦争から多くのことが学んでいます。

一人称視点のドローンが兵士を追いかけたり、無防備な戦車内にペイロードを落としたりするストーリーは、 熟練したドローンオペレーターの重要性が高まる。 これらの話は、多くの場合、電子戦争、つまり、 ドローンを簡単に妨害したり妨害したりする。

これらの事例は、特にオペレーターとドローンの間の接続が簡単に切断される場合に、ドローンの自律性の役割について疑問を引き起こしています。 人間のオペレーターがプロセスにどの程度関与する必要があるかについても懸念があります。 そして、この議論は、特に米国などの軍隊がすでにドローンを使用している場合には、ドローンをはるかに超えて広がっています。 もっと大きく考える、のようなことについて 無人戦闘機、 軍艦、 そして もっと。

米国や他の大国が人工知能の分野で先導する一方で、新たな戦争の時代を潜在的に導くことにも貢献しており、特に「キラーロボット」と数年前のような事件もあった。 ドローンが暴走した そして指示なしに人間の標的を追いかけました。

最近では、イスラエルが使用したとの報告がありました。 AIがハマスのターゲットを発見、いくつかの疑問が生じます。

昨年の秋、AIが戦場でいつどのように意思決定を行えるかについて制限を課すことをめぐって、国連で議論が巻き起こった。 多くの当局者は、AIが人間の許可なしに人間の標的を殺害する決定をできるかどうかについて懸念を表明した。

米国、ロシア、オーストラリア、イスラエルは当時、新たな国際規制は必要ないと主張していた。 ニューヨークタイムズ紙が報じた。 しかし、他の国々は、国連をプラットフォームとして利用して、自律型兵器の運用方法に制限を提案し、制限することを望んでいた。

タイムズ紙によると、パキスタンのハリル・ハシュミ大使は国連本部での会合で、「現状に満足することはもはや選択肢ではないようだ」と語った。 「テクノロジーのブレイクアウトに備える中、行動を起こす機会は急速に狭まっています。」

国防総省の規制はさておき、軍は自律性と人工知能を追求している。 たとえば8月には、ヒックスは 言った 同省は「今後18～24カ月以内に、複数の領域で数千の規模で消耗型の自律システムを実用化する」ことを目指しており、同様にAI兵器やAIシステムを望んでいる中国と協力して完成させるという驚異的な取り組みを完了させたいとしている。