戦争中の人工知能。タレスの革新的なプロジェクト

AGI – 人命が危険にさらされている場合、アルゴリズムをどのようにトレーニングすればよいでしょうか?タレスの一員として、600 人を超える専門家が防衛およびセキュリティ分野向けの人工知能を開発していますが、消費者向け AI と比較すると不釣り合いな制約があります。

「この特殊な環境は、従来の環境には存在しない義務を私たちにもたらします。限界は人工知能アルゴリズムの設計段階によって設定されますが、人工知能アルゴリズムはブラックボックスとして機能することができず、人間が絶対的に必要不可欠な部分です」欧州の防衛システムに関する諜報特許はAFPに語った。

2月10日と11日にパリで開催されるAIアクションサミットに先立ち、タレスは今週、パリ地域の空中対ドローンシステム（AI）に先駆けてパレゾーに研究所を開設した。

これらのイノベーションの影響は「安全保障、主権、エネルギー効率の課題にとって非常に大きい」と、世界中の50の軍隊に装備を提供し、そのシステムが宇宙空間の40％を管理しているタレス社のパトリス・ケイン最高経営責任者（CEO）は述べた。

剣と盾

「私たちには、AI の仕組みと学習モデルを徹底的に再考する責任があります」とフィリップ・ケリヤー氏は言います。これらの機密領域のデータ量は限られているため、チームはアルゴリズムをトレーニングするための経験に基づいて合成データを生成します。 「倫理的ハッカー」を雇用して脅威を予測し、最も洗練された攻撃を考案し、検証前にソフトウェアを「回復力クラッシュテスト」にかける。

「剣と盾」の原則はすでに兵器システム (ドローンおよび対ドローン システム) に適用されています。 「最も陰湿な攻撃によって悪について考えることによって、私たちは善を生み出すことができるのです」とフィリップ・ケリヤーは言います。もう 1 つの課題: 戦場では、「サイズ、重量、電力の点で制限があるだけでなく、接続しているネットワークの種類によっても制限されます」とタレスのサイバーセキュリティ責任者、ファビアン フラッシャー氏は言います。フリゲート艦やラファール、戦車にはGoogleのような「サーバーファーム」はない、と同氏は付け加えた。

そして、人工知能が一般に「長期間凍結された」データに基づいて訓練されるとしても、これは現代の紛争では機能しません。 「私たちは、AIが組み込まれている偵察機などから、各ミッションの後にAIがより適切になるように即座に教えます」。

人々が勝つ

「AI は人間よりも厳しく判断されます」と、Thales の AI 担当者である CortAIx Labs のテクニカル ディレクターである Christophe Meyer 氏は言います。しかし、重要な決断は常に人間にあります。 「もしカメラ機能を備えたドローンがあったとしたら、+私はあなたが私にしたこの提案を支持します、私の基準は人間の基準です+という人間の決定があったでしょう」と彼は指摘する。

この種の AI が提供するソリューションには、合理的な説明も含まれています。

提供される計算により、オペレーターは認知的負荷を軽減し、場合によっては生命が危険にさらされている領域で過ごす時間を短縮することができます。

たとえば、インテリジェントレーダーは「以前は数十分かかっていたのに、数百の目標のサイズを数十秒で認識できるようになりました」とタレス社のレーダー専門家ニコラ・レジェ氏は説明する。

地雷との戦いについても同様です。不審なデバイスを検出するアンテナはますます強力になっていますが、人間が消化するのが不可能な量のデータが生成されます。

このアルゴリズムは、「分類を迅速化し、識別と無力化作業の関連性を評価する」のに役立ちます、と地雷対策コンサルタントのブノワ・ドリエ・ドゥ・ラフォルテ氏は説明します。同氏によると、この技術では誤警報は「1～2％」しか発生しないが、この種の作戦では「アメリカ人は特定の作戦では20％の誤差が許容されることに満足していた」という。

しかし、アルゴリズムはまだ人間の「大きな耳」を置き換える準備ができていません。 「アルゴリズムが新たな脅威に対処するように訓練されていない場合、期待どおりに機能しない可能性があります」と専門家は指摘する。