日本

AIを使った軍事ドローンの群れが戦争の未来となる可能性があり、倫理的な懸念が高まっている

研究者らが人工知能と自律性を致死的な航空兵器に適用するにつれ、そのシステムは、現代の戦闘において人間がどの程度制御を維持できるかという新たな疑問を提起している。インテリジェントな「ドローン群」は戦争における画期的な進歩となるだろう。最近の米国政府の報告書によると、兵士が無人機を個別に操縦するのではなく、空中や海上のドローン群を展開して「人間の注意と制御の必要性が限られている」任務に協力することができるという。 これを書いた理由 人工知能を搭載したドローン技術は、最終的には戦争を変える可能性がある。しかし、殺傷能力のある機械の自律性は、AIの開発、展開、使用をどのように規制すべきか、また規制すべきかどうかという点で深刻な倫理的ジレンマを引き起こす。 今後の課題は、国防総省が民主国家の倫理を維持しながら、ドローン戦争の多くの技術的課題を克服できるかどうかだ。将来の紛争で、敵対国が倫理的制約なしに自らのスウォーム技術を利用するのではないかとの懸念がある。人間による監視がどの程度必要か、あるいは望ましいかは重要な問題である。結局のところ、人間は機械ほど速く情報を処理できないため、戦闘で競争力を保つために人間をループから外す圧力が高まる可能性がある。「軍事、国際法、倫理の観点から、この問題について考える人がもっと必要だ」と国防総省の元科学技術顧問、マーガレット・E・コサル氏は言う。 安価なドローンの普及 ウクライナと中東での紛争で、戦場で計画し協力できる無人車両を完成させるための競争が巻き起こった。 こうした次世代のインテリジェントな「スウォーム」は、戦争の画期的な進歩となるだろう。最近の米国政府の報告書によると、兵士が個々の無人機を操縦するのではなく、空中や海上のスウォームを「人間の注意や制御をほとんど必要としない」任務に展開できるという。これは軍にとって「聖杯」だと、連邦政府が資金を提供する研究開発センター、海軍分析センターの顧問サミュエル・ベンデット氏は言う。 また、倫理的な地雷原でもある。研究者が人工知能と自律性を殺傷機械に適用するにつれ、そのシステムはドローン軍の亡霊を浮かび上がらせ、現代の戦闘において人間が果たすべき役割について新たな疑問を提起している。国防総省の当局者は、殺害の決定に関しては人間が常に「関与する」と長い間約束してきたが、国防総省は昨年 ガイダンスを更新した 兵器における AI の自律性に対処するため。 これを書いた理由 人工知能を搭載したドローン技術は、最終的には戦争を変える可能性がある。しかし、殺傷能力のある機械の自律性は、AIの開発、展開、使用をどのように規制すべきか、また規制すべきかどうかという点で深刻な倫理的ジレンマを引き起こす。 「完全に自律的な兵器システムのテストを進めること自体、非常に高いレベルの承認だ」と、カリフォルニア州モントレーにある海軍大学院のコンピューターサイエンス学部の上級講師、デュアン・T・デイビス氏は言う。しかし、この承認は「完全に自律的な兵器システムの可能性を示唆している」。 これは主に、米国の軍事研究の多くが、米国や同盟国との将来の紛争で敵が自らのスウォーム技術をどのように利用するかという懸念から推進されているためである。今後の問題は、国防総省が無人機戦争の無数の技術的課題を克服できるかどうかである。 民主国家の倫理を維持しながら。懸念されるのは、中国が「我々と同じ倫理的決断に取り組むつもりはない」ということだとデイビス博士は言う。 群れを作るもの戦場上空での無人軍事集団攻撃の最近の事例、そして ドローンによるライトショーが夜空のエンターテイメントとして登場 米国上空で発射されるミサイルは、知能を持った集団ではない。前者は基本的に、ゆっくりと移動する空中「ミサイル」の一斉射撃であり、それぞれを人間が操作し、機械同士の連携や通信はない。後者は花火のハイテク代替品であり、ほぼ理想的な条件で事前にプログラムされたディスプレイであり、敵が対抗方法を見つけ出すことができるため、軍事的な環境では特に役に立たない。「敵にとって、それは単に私が撃てるもののパターンを知っている、あるいは彼らが同じように行動しているということなので、彼らが何をするかを予測するのはより容易だ」とハドソン研究所の上級研究員ブライアン・クラーク氏は指摘する。 代わりに、スウォームはドローン同士の通信にセンサーの配列を使用し、その後 AI に切り替えて攻撃の計画と連携を即座に行う。スウォームは「アリが甲虫などを食べるために這い回るのと同じように、さまざまな角度から圧倒的な力で包囲攻撃を行うようにプログラムされている」とジョージ・メイソン大学シャー政策・政府大学院の研究員、ザカリー・カレンボーン氏は言う。 2024年6月27日、ウクライナのキエフ近郊で、スウォーマー社の人工知能搭載ドローンが飛行している。米国の防衛計画立案者は、任務遂行にAIを頼る「群れ」でのドローンの使用は画期的な進歩となるが、戦闘における人間の制御の低下に関する倫理的問題を提起すると述べている。 ウクライナの戦場で現在ドローン操縦者にとって大きな課題となっているのは、操縦者とドローン、ひいてはドローン同士の通信を妨害するロシアの妨害技術である。この課題に対処するため、一部の研究者はドローンが他のドローンの行動を観察し推測する方法を研究している。 戦場の霧は視覚による観察を困難にする。アリゾナ州立大学のセオドア・パブリック教授が最近、米国特殊作戦軍の要請でオーストラリアのウィーバーアリの研究を始めたのはそのためだ。アリは群れをなして獲物を木の上に運ぶ際、常に周囲を見回さなくても互いの存在を感知する。 彼らはチームとして協力し、決定を下します。「それを再現できれば [with drones]基本的に「Go」ボタンを押すだけで、彼らは自分のやり方で計画を立てます」と、ハリナシバチや他の種類のアリも研究しているパヴリック博士は言います。「新たな課題が発生した場合、彼らは [set] こうした課題を回避するための一時的な短期目標です。」 コストパフォーマンスより多くのインテリジェンスと計算能力を搭載したスマートドローンを作るということは、より大きくて高価な機械になるということであり、それには欠点もある。「コンピューターは限界まで小さくでき、ドローンに搭載できるパワーと積載量にも限界がある」とコロラド大学ボルダー校の無人機研究工学センター所長ニサール・アーメド氏は言う。 まず、ドローンを離陸させるだけでも、世界クラスの短距離走者が100メートル走に費やすエネルギーの約10倍が必要だと、ペンシルバニア大学工学部の学部長ビジェイ・クマール氏は言う。その結果、空中ドローンを使ったミッションは、現在、距離と時間の点で制限されている。長距離ドローンは高価なので、1時間、あるいは30分でも空中にとどまることができる安価なドローンの方が、コストパフォーマンスが高い。困難にもかかわらず、研究者たちは進歩を遂げている。プエルトリコのドローン技術会社、レッドキャット・ホールディングスは昨年、現在の1対1の比率ではなく、1人がティールドローン4機を操縦できるシステムを発表した。同社は、機械自体にさらなる自律性を持たせることで、その比率を高めることを目指している。しかし、そのような自律性を殺傷能力のある機械に組み込むことは、特にドローンの意思決定のスピードと複雑さが増すにつれて、人間による監視を維持するという倫理的な課題も引き起こす。結局のところ、人間は機械ほど速く情報を処理できないため、たとえば中国などの敵対国が完全な自律性を備えた AI 搭載ドローンを配備した場合、人間をループから外す圧力が高まる可能性がある。ペンタゴン 倫理担当官を雇った 2020年には、まさにそのような課題に取り組む必要があります。それでも、「軍事、国際法、倫理の観点から、これらの問題について考える人がもっと必要です」と、ジョージア工科大学サム・ナン国際問題大学院の教授で、国防総省の元科学技術顧問であるマーガレット・E・コサル氏は言います。 機関銃の例え明らかなのは、研究者たちが今日の戦場特有の課題に取り組んでいるにもかかわらず、この技術が猛スピードで発展し続けるということだ。レッドキャットの最高技術責任者で、同社の子会社ティールの創設者であるジョージ・マタス氏は、ドローンは1世紀以上前に機関銃が戦争を変えたのと同じように戦争を変えるだろうと語る。…