世界

エセックス警察、偏見と精度のリスクを理由にリアルタイムの顔認識を停止

エセックス警察は、潜在的な精度と偏見のリスクを特定した後、ライブ顔認識 (LFR) テクノロジーの使用を一時停止しました。 イスラエルの生体認証会社コーサイトが提供したLFRシステムの同部隊の停止は、情報コミッショナー局（ICO）が公開した監査文書で明らかになり、エセックス警察は今後の配備を続ける前に特定された「リスクを軽減する」よう努める必要があると述べた。 エセックス警察のLFR配備リストによると、同部隊が最後にこの技術を使用したのは2025年8月26日であり、ICOが同年11月に監査を実施した時点ではすでに配備は停止されていたことになる。 何が具体的に部隊にLFRの使用を停止させたのかは現時点では不明だが、コンピューター・ウィークリー誌は2025年5月に、プライバシー・キャンペーン団体ビッグ・ブラザー・ウォッチによる情報公開規定を通じて「明らかに不十分な」平等影響評価（EIA）が取得された後、エセックス警察がその潜在的な差別的影響を適切に考慮しなかったと独占的に報じた。 専門家らは当時、この文書が「支離滅裂」で、テクノロジーの体系的な平等への影響に目を向けておらず、異なる集団を対象に訓練された他の警察が使用する全く異なるソフトウェアアルゴリズムのテストにのみ依存しているとして批判した。 同部隊はまた、LFRシステムにバイアスがないというサプライヤーの「誤解を招く主張をオウム返し」しているとして批判された。国立標準技術研究所（LFRテストのゴールドスタンダードとして広く認識されている機関であり、すべてのテストデータが公的に共有されている）は、Corsightが引用した精度の数値や、本質的に最もバイアスの少ない利用可能なアルゴリズムを持っているという主張を裏付ける情報を持っていない。 ビッグ・ブラザー・ウォッチは当時、これらの問題を総合すると、部隊がその政策や慣行がどのように差別的となり得るかを検討する公共部門の平等義務を履行できていない可能性が高いことを意味すると主張した。 独立したテスト 批判に応えて同部隊は当時、国立物理学研究所（NPL）とケンブリッジ大学の両方がそのシステムの独立したテストをさらに実施するよう委託されていると指摘し、評価を継続していると述べた。 2026年3月12日に発表されたケンブリッジの研究結果によると、このシステムは女性よりも男性を正確に識別する可能性が高く、「他の民族グループの参加者よりも黒人の参加者を正確に識別する可能性が統計的に有意に高かった」という。 この調査に関与した犯罪学者マット・ブランド氏は、「エセックス州のように設置された顔認識カメラを通過する犯罪者である場合、黒人の場合は警察の監視リストに載っていると特定される可能性がより高くなる。私にとって、それは更なる捜査を正当化するものである」と述べた。 対照的に、同様に2026年3月に発表されたさらなるNPLテストでは、黒人男性がシステムによって正確に一致する可能性が最も高く、白人男性は最も可能性が低いことが判明しましたが、その差は統計的に有意ではないと指摘されました。 Computer Weeklyは同部隊に連絡を取り、LFR停止決定の具体的なきっかけとなった理由を尋ねた。これには、研究結果なのかEIAに対する以前の批判なのかも含まれる。 「公共部門の平等義務に対する我々の取り組みに沿って、エセックス警察は2つの独立した調査を委託し、学術界によって完了した」と広報担当者は述べた。 「これらの 1 つ目は、陽性識別率に潜在的な偏りがあることを示していましたが、2 つ目は、結果に統計的に関連する偏りが存在しないことを示唆していました。 「潜在的なバイアスが存在するという事実に基づいて、部隊はアルゴリズムソフトウェアプロバイダーと協力して結果を検討し、ソフトウェアの更新を目指す間、配備を一時停止することを決定した」と彼らは付け加えた。 「その後、私たちはさらなる学術的評価を求めました。 「この取り組みの結果、私たちはポリシーと手順を修正し、指名手配犯を追跡し逮捕するための警察活動の一環としてこの重要なテクノロジーの導入を開始できると確信しています。私たちはコミュニティの特定のセクションに対する偏見のリスクがないことを確認するために、すべての結果を監視し続けます。」 ビッグ・ブラザー・ウォッチの調査・捜査責任者ジェイク・ハーフルト氏は、停職処分のニュースを受けて、「全国の警察はこの大失敗に注目しなければならない。AI」と述べた。 [artificial intelligence] 実験的で、テストされておらず、不正確で、あるいは偏見を持っている可能性のある監視は、私たちの街路には存在しません。」 議論せずに導入を強化する 2016年8月のノッティングヒル・カーニバルでのメトロポリタン交通局の導入を皮切りに、警察によるLFRの使用はすでにここ数年で増加しているが、これまでのところ公的な議論や協議はほとんどなく、内務省はすでに「包括的な」法的枠組みが整備されていると長年主張してきた。 しかし、2025年12月、内務省は英国警察によるLFRの使用に関する10週間の協議を開始し、関係者や一般の人々が物議を醸しているテクノロジーをどのように規制すべきかについて意見を共有できるようにした。 同省は、警察の顔認識に関する「つぎはぎ状の」法的枠組みは（技術の遡及的および「オペレータ主導型」バージョンの使用増加を含む）存在するものの、警察自身に「それを大幅に大規模に使用する自信を与えていない…また、それが責任を持って使用されるという国民の信頼を一貫して与えていない」と述べた。 同報告書は、警察のLFR使用を管理する現在の規定は「複雑で理解しにくい」ものであり、一般の国民が公道でのLFR使用の根拠を完全に理解するには、4つの法律、警察の国家指導文書、各部隊が発行する一連の詳細な法的文書またはデータ保護文書を読む必要があると付け加えた。 しかし、協議が終了する前に内務省は、英国の「壊れた」警察制度の抜本的改革の一環として、AIと顔認識技術を大規模に導入する計画を発表した。 協議終了の約3週間前、2026年1月下旬に発表された提案に基づき、内務省は警察が利用できるLFRバンの台数を10台から50台に増やす。警察のコンテキスト向けの AI モデルを構築、テスト、保証するために、警察における AI…