イラン戦争における明らかなAI使用は困難な疑問を引き起こすと専門家が語る

「そのプロセスを自動化することで、人間が行うよりもはるかに早く、標的の長いリストを迅速に作成できます」と、ニューヨークのニュースクールのメディア研究准教授で、ストップ・キラー・ロボット・キャンペーンの副委員長も務める同教授は語った。しかし、「倫理的および法的問題は、それらの人間が実際にリストに挙げられた特定の目標をどの程度精査し、認可する前にその合法性と軍事的価値を検証しているのかということだ。」コントロールを失った？ 「欲望は [with] これらすべてのシステムは、敵よりも速く意思決定を行い、行動できるようにするためのものです」と彼は言いました。同氏はさらに、「実際に何が起こっているのかをまだコントロールできているのか？」という疑問が生じると付け加えた。自動兵器の使用を規制する将来の条約の可能性をめぐって、10年にわたって議論が続けられてきた。各国は今年後半に本格的な条約交渉を開始するかどうか決定する予定だ。しかし、現在 AI と自律型兵器に関する特別な条約はありませんが、これらのシステムが法的な空白の中で運用されているという意味ではなく、既存の国際法が適用されます。ジュネーブでの国連での議論の傍らでアサロ氏は、議論の重要な部分は標的の選択と、意味のある人間の制御が失われるのではないかという懸念を中心に展開していると述べた。戦争でAIを使用する場合の「セールストーク」は通常、「これらは精度が高く、人間よりも間違いが少ない」というものだが、同氏は「これらのシステムが実際にどのように機能するかは私たちには分からない」と強調した。同氏は、AIが不透明な機密システム上でどのように動作するのかを指摘したが、AIがどのように機能し、どのように結論に達するのかについてはほとんど洞察が得られなかった。「これらのシステムの出力を評価したり、間違いがあったときに何が問題だったかを判断したりする簡単な方法」は存在しない、とアサロ氏は述べた。今日、ベイルート南郊外のハレト・レイク地区を標的としたイスラエルによる空爆の現場から煙が立ち上っている。イスラエルはイランとレバノンに対して新たな攻撃を開始した。写真/-「道徳的な境界線はどこにあるのか？」 「何か問題が起こったら、誰が責任を取るのですか？」と彼は尋ねた。「これを法的にどう定義しますか？道徳的な境界線はどこにありますか？」イランによると、同氏は土曜日にミナブ市の学校が襲撃され、150人以上が死亡した事件を指摘した。イラン政府は米国とイスラエルを非難しているが、どちらも攻撃を認めておらず、AFP通信は独自に被害額を確認したり現場を訪問したりすることができていない。AFP通信は、この建物が強力なイスラム革命防衛隊が管理する2つの拠点のすぐ近くにあったことを確認した。アサロ氏は、学校が少なくとも10年間、隣接する軍事施設から明らかに離れていたことを示すストライキに関する報道を強調した。仮に間違いがあったとしても、その原因は明らかではないと彼は言う。「彼らはそれを本来あるべき軍事基地と区別していませんでした。 [but] 彼らは誰ですか？彼は尋ねました - 人間ですか、それとも機械ですか？AIが攻撃に使用された場合、問題は「データはどれくらい古いのか?」であり、これは「データベースエラー」なのか?と同氏は述べた。それともターゲティングは正確でしたか？ [had] ただ足りなかっただけ？」彼は尋ねた。「物事が失敗する場合には、あらゆる種類の方法があります。」おそらくもっと恐ろしい可能性としては、「システムが実際に学校が脅威であるという何らかの結論に達した」可能性がある、と彼は述べた。そうなると、その結論の背後にある推論システムが何であるのかという、より大きな疑問が生じることになるだろう。「こうした決定がどのように行われているかを本当に心配する必要がある」とアサロ氏は語った。- フランス通信社 #イラン戦争における明らかなAI使用は困難な疑問を引き起こすと専門家が語る