「戦争における人工知能の進化は、人類に新たな暗黒時代をもたらす危険性がある」

Le パリ平和フォーラム （11月11日と12日）11月10日日曜日にマクロン大統領と人工知能（AI）に関する諮問グループとの間で会議が開催されたが、その傍らでヨーロッパと世界で続く戦争の影で開催されている。中東。

鎖 テレグラム・ラス ウクライナでは、軍用モデルであれ、DIYの消費者向けモデルであれ、高音のドローンから逃げようとする戦闘機を追跡し、その後何千人もの観客の目の前で焼却されるドローンの動画が溢れている。いくつかの報道では、イスラエルが使用したことも明らかになった。 ガザの標的を選択するAIシステム。

私たちは、AI に支援された人間によって行われる戦争から、AI に支援された人間によって行われる戦争へと移行する寸前にあり、戦争における大きな転換点に立っています。 AIが人間の介入なしに致命的な攻撃を実行する最終決定を下すこのような変化は、私たちの種にとって新たな暗黒時代を画すことになるでしょう。

意思決定から人間を排除することは、戦争犯罪において前例のないレベルの効率化につながる可能性があり、非武装の民間人や国際法に従って降伏した戦闘員の虐殺を停止する命令に下級将校が疑問を呈する可能性を排除する。

巨額の損失

AI システムは信じられないほどのスピードで進化する可能性があり、プログラミング エラーによって人間の監督者が気付かないうちに巨額の損失が発生したり、政治的意思決定者が意図していなかった低レベルの紛争をエスカレーションさせたりする可能性があります。

こうしたリスクは地上だけでなくサイバー兵器にも重くのしかかっています。ザ マルウェア [« logiciels malveillants »] 自律型および自動化されたシステムは、比較的長い間国家によって導入されてきました。ウイルスの開発 スタックスネット イランの核開発計画を無力化することに成功した米国によるこの計画は、おそらく 2005 年に始まった。

しかし、これらのツールは、Stuxnet のように、人間の知能による標的システムの詳細な知識を必要とすることが多く、あるいは効果を発揮するには大規模に配布する必要がありました。 ペティアではありません など ワナクライロシアと北朝鮮が放送。

サイバー攻撃に関して言えば、私のような企業のように、これまで AI は主に防御側に利益をもたらしてきました。 [SentinelOne] これを使用して、リアルタイムで攻撃を検出し阻止します。

この記事の残り 60.65% を読む必要があります。残りは購読者向けに予約されています。