パリ、AI監視オリンピックに備える

来週、フランスのパリで今年の夏季オリンピックが開幕すると、世界のトップアスリートを乗せた約100台のフロートがセーヌ川を渡る予定だ。約50万人のファンが、自国のスポーツ大使がルーブル美術館、エッフェル塔、旅行ガイドブックに載るほどの歴史的建造物を通過するのを歓声で迎える。しかし、観戦するのはファンだけではない。川を見下ろす何千台ものCCTVカメラが、進行をリアルタイムで監視する。舞台裏では、強力な新しい人工知能モデルが映像を精査し、群衆の中に潜む危険の兆候を探している。批評家が欧州連合のより広範なプライバシー法に違反する可能性があると主張する物議を醸している新しいAI対応監視システムは、フランスが今年のオリンピックを記憶に残る最も厳重に監視されたオリンピックの1つにするためにテクノロジーを使用しているいくつかの方法の1つである。

AI監視が群衆の騒乱を監視する

フランス議会は昨年末、法執行機関に「実験的」な人工知能アルゴリズムを使用して公共のビデオフィードを監視し、「リアルタイムの群衆分析」を提供する権限を一時的に付与する新しい法律を可決した。実際には、AI検出モデルは何千台ものCCTVカメラのフィードを解析し、オリンピックの観客の中に潜む潜在的に危険な異常の兆候を探すと報じられている。これらの警告サインには、武器を振り回す人々、予想よりも多くの群衆、喧嘩や乱闘、放置された荷物などが含まれる可能性がある。

フランスは、AI分析のためにWintics、Videtics、Orange Business、ChapsVisionなどの多くのテクノロジー企業と提携している。警察はすでに、いくつかの地下鉄駅、カンヌ映画祭、そして満員のデペッシュ・モードのコンサートでこの新システムをテストしている。パリ警察署長ローラン・ヌニェスは最近、 ロイター コンサートのトライアルは「比較的順調」に進み、オリンピック期間中のシステム使用に「万全の態勢」が整ったと述べた。

AI モデルが潜在的な脅威を検知した場合、人間の法執行官に警告を発し、法執行官はその後、さらなる執行措置を進めるかどうかを決定する。フランス当局は、リアルタイム分析はすべて、顔認識や他の固有の生体認証識別子を一切使用せずに行われると主張している。代わりに、法執行機関とその民間パートナーは、モデルは体の動きや位置などの「行動」パターンのみを測定すると述べている。当局は、AI は生体認証 ID に基づいて個人を特定することはできないと主張している。

「群衆の中にいる『ミスターX』を認識することが問題なのではない」と、フランスのジェラール・ダルマナン内務大臣は今年初め、フランス議員との会合で語ったと報じられている。「状況を認識することが問題なのだ」

オリンピックではフランスの新しい「実験的」AIビデオ監視がテストされる

しかし、一部の批評家は、この種の AI ビデオ分析を、生体認証識別子を誤って収集して比較することなく実行することが技術的に可能かどうか疑問視している。これを行うと、フランスは欧州の一般データ保護規則 (GDPR) および最近制定された EU AI 法に違反する可能性がある。今年初めに 38 の欧州市民社会団体の連合が公開書簡で、このモデルが報告した歩行、体の位置、身振りの監視は、特定の個人またはグループを識別するために使用される生体認証マーカーとして依然として適格である可能性があると主張している。もしそうだとすれば、このシステムは、公共の場で許可される生体認証データ収集の範囲を制限する既存の GDPR 規則に違反することになる、と団体は主張している。

GDPRの規則では、公共の利益を理由に生体認証収集規則に一定の例外を認めているが、人権団体は、フランスの事例で認められた許可は範囲が広すぎて、明らかな脅威に釣り合いが取れていないと主張している。人権団体や、早期成立に反対する一部の議員は、この法律が将来の公共監視法案の危険な前例となり、AI監視を抑制するEUのより広範な取り組みを損なう可能性があることも懸念している。アムネスティ・インターナショナルのAI規制顧問、メヘル・ハコビアン氏は、監視権限は一時的であっても「フランスを永久にディストピア的な監視国家に変えるリスクがある」と述べた。早期成立に反対するフランスの議員に書簡を送ったヒューマン・ライツ・ウォッチも同様に、この法律が「市民の自由と民主主義の原則に対する深刻な脅威」をもたらし、法執行における人種間の格差をさらに悪化させるリスクがあると懸念している。

「この提案は、大規模イベントの警備を口実に、アルゴリズムによる侵入的なビデオ監視の使用に道を開くものだ」とヒューマン・ライツ・ウォッチは書簡で述べた。「公衆が立ち入り可能なエリアに、標的を定めない（しばしば無差別と呼ばれる）アルゴリズムによるビデオ監視が存在するだけで、基本的な市民の自由に萎縮効果をもたらす可能性がある。」

一方、暫定的とされる新措置が必然的に現状維持になるのではないかと懸念する人々もいる。監視法は2025年に正式に失効するが、議員らは希望すればその有効期間を延長できる。権限拡大を支持する人々は、これらの措置は致命的なテロ攻撃に対する国の防衛力を強化するために必要な手段だと主張する。特にフランスは過去20年間で6件以上の大規模攻撃を経験しており、2015年には130人が死亡した一連の銃撃事件もその1つだ。2015年の事件を受けてフランスは暫定的な非常事態宣言を発令したが、結局2年以上延長された。

「日本、ブラジル、ギリシャなどの過去のオリンピックでもこのようなことは起きている」と、ラ・クアドラチュール・デュ・ネットのデジタル権利活動家ノエミ・ルヴァンはインタビューで語った。 BBC 今年初めに、オリンピックの特別な状況のために特別に用意されたはずの警備体制が、結局は普通のことになってしまいました。」

フランス、大規模な屋外開会式に向けて警備を強化

フランスが今年のオリンピックで重視するセキュリティは、ビデオ監視だけにとどまらない。当局は、開会式が行われるセーヌ川の周辺地域を「テロ対策境界線」に指定した。約3.7マイルのこのエリアは、7月18日から26日まで、厳重なセキュリティが敷かれる。

報道によると、その境界線内に居住し、働いているフランス人住民約2万人は、大会前に身元調査を受けさせられ、イスラム過激派グループと疑われるグループとのつながりがないか調べられる。これらの個人は、大会期間中、そのエリア内を移動する際に使用する政府発行のQRコードを受け取る。過去10年間でパリ中でよく見かけるようになった、武装した警察と軍隊の部隊は、通常の10倍の人数になると報道されている。地元警察は、ダイバー爆弾専門家、テロ対策部隊、ドローンの脅威を撃墜する訓練を受けた特殊部隊など、数百人と協力して活動すると報道されている。

オリンピックは長年、世界各国が最新のデジタル監視ツールを宣伝し、導入するための試験場となってきた。中国は2008年の北京オリンピックと最近の冬季オリンピックで、セキュリティチェックに顔認識技術を使用したことで有名だ。2014年ソチ冬季オリンピックを監督していたロシアの情報当局も同様に、競技者と観客のデジタル通信とインターネットトラフィックを監視していた。これらすべてのケースで、開催国は前例のない注目が集まる時期に安全を確保する手段として、通常の監視活動の範囲を超えることを正当化している。懸念する正当な理由がある。オリンピックは一度ならず暴力の原因となってきた。しかし、差し迫った脅威が薄れても、開催国は新たに発見した監視能力を維持することが知られており、活動家によると、この慣行は最終的に時間の経過とともに市民の自由を損なうことになるという。しかし、フランスが同じ戦略に従うかどうかはまだ分からない。