カナダのエドモントンでAIを搭載した警察のボディーカメラが倫理的懸念を引き起こす

カナダのエドモントン市で、人工知能を搭載した警察のボディカメラが「高リスク」監視リストに載っている約7,000人の顔を検出できるよう訓練された。これは、煩わしすぎるとして敬遠されている顔認識技術が北米全土の警察に導入できるかどうかのライブテストである。しかし、大手ボディーカメラメーカーのアクソン・エンタープライズ社が、警察による顔認識技術の使用には深刻な倫理的懸念があると述べてから6年が経ち、先週開始されたこのパイロットプロジェクトは、人口100万人以上の大陸最北端の都市エドモントンをはるかに超えて警戒を呼び起こしている。2019年に同社を一時的に顔認識の放棄に導いたAxonのAI倫理委員会の元委員長は、アリゾナに本拠を置く同社が社会的リスクとプライバシーへの影響について十分な公開討論、テスト、専門家の精査を行わずに前進していることを懸念しているとAP通信に語った。 元理事長で現在ニューヨーク大学法学部教授のバリー・フリードマン氏は、「メリットが明確に示されない限り、非常に現実的なコストとリスクを伴うこれらのテクノロジーを使用しないことが重要だ」と述べた。 Axonの創設者兼最高経営責任者（CEO）のリック・スミス氏は、エドモントンでの試験運用は製品の発売ではなく、テクノロジーがどのように機能するかを評価し、責任を持って使用するために必要な安全策を明らかにする「初期段階のフィールド調査」であると主張する。 「米国外の現実の状況でテストすることで、独立した洞察を収集し、監視の枠組みを強化し、それらの学習を米国内を含む将来の評価に適用することができます」とスミス氏はブログ投稿で述べた。このパイロットは、当局が「暴力的または暴行的、武装および危険、武器、逃走の危険性、および危険性の高い犯罪者」などのカテゴリーで「危険信号または警告」を発していると当局が分類した人物を身体に装着したカメラで検出できるようにすることで、エドモントンのパトロール警察官の安全性を高めることを目的としているとエドモントン警察の警視代理カート・マーティン氏は述べた。マーティン氏は12月2日の記者会見で、これまでのところ監視リストには6,341人が登録されていると述べた。同氏によると、別の監視リストには、少なくとも1つの重大な刑事令状を持つ724人が追加されているという。 「私たちは、これらが重大な犯罪を犯した人々であることを確実にターゲットにしたいと考えています」と、Axon の責任ある AI 担当ディレクターのアン・リー・クック氏は述べています。 試験運用が拡大すれば、世界中の警察活動に大きな影響を与える可能性がある。テーザー銃の開発で最もよく知られる上場企業であるアクソンは、ボディカメラの米国の有力な供給者であり、カナダなどの警察機関への売り込みが増えている。アクソンは昨年、カナダ王立騎馬警察へのボディカメラの販売を目指して、最も近い競争相手であるシカゴに本拠を置くモトローラ・ソリューションズを破った。モトローラは声明で、顔認識技術を警察のボディカメラに統合する機能も備えているが、倫理原則に基づき「事前の身元確認を目的としたこの機能の導入を意図的に控えている」と述べた。将来的に使用する可能性も排除しなかった。 アルバータ州政府は2023年、州都エドモントンを含む州内のすべての警察機関にボディカメラの設置を義務付け、これを警察のやりとりを記録し、より良い証拠を収集し、捜査や苦情の解決までの時間を短縮するための透明性対策だと説明した。米国の多くのコミュニティも責任ツールとしてボディカメラを歓迎しているが、リアルタイムの顔認識で公共の場で人々を特定するという見通しは、政治的領域全体で不評だ。市民的自由擁護団体からの反発と人種的不正義に関する広範な議論により、アクソン社とビッグテック企業は警察への顔認識ソフトウェアの販売を一時停止することになった。最大の懸念の中には、このテクノロジーに欠陥があることを示す研究があり、人種、性別、年齢によって偏った結果が示されていました。また、リアルタイムのビデオフィードでは、身分証明書や警察のマグショットでポーズをとっている顔ほど正確に顔を照合できませんでした。米国のいくつかの州と数十の都市は、警察による顔認識の使用を削減しようとしているが、ドナルド・トランプ大統領の政権は現在、各州によるAI規制を阻止または阻止しようとしている。 欧州連合は、誘拐やテロなどの重大犯罪に使用される場合を除き、27か国圏全体でリアルタイムの公開顔スキャン警察技術を禁止した。 しかし、もはやEUの一部ではない英国では、当局が10年前にロンドンの路上でこの技術の実験を開始し、過去2年間で1,300人を逮捕するためにそれを使用した。政府は全国への利用拡大を検討している。エドモントンのパイロットに関する多くの詳細は公表されていない。 Axonは顔を認識するための独自のAIモデルを作成していないが、どのサードパーティベンダーを使用しているかについては明らかにしなかった。 エドモントン警察は、試験運用は12月末まで継続され、日中のみに実施されるとしている。 「明らかに、ここでは暗くなるのがかなり早いです」とマーティンは言いました。 「照明条件、冬の寒さ、これらすべてが、概念実証の成功という点で私たちが検討していることの要素となります。」マーティン氏は、この技術を操縦している約50人の警察官には、顔認識ソフトウェアが一致するかどうか分からないと述べた。出力はステーションで後で分析されます。しかし将来的には、警察が近くに危険人物がいるかどうかを検知し、助けを求めることができるようになるかもしれない、とマーティン氏は語った。それは単に人混みの中を歩いているときではなく、警察官が捜査を開始したとき、または通報に応じているときにのみ起こるはずだ。マーティン氏によると、通報に応じた警官はカメラをパッシブモードからアクティブ録画モードに切り替えて、高解像度の画像を撮影できるという。 「私たちは個人の権利とプライバシーの利益を本当に尊重したいと考えています」とマーティン氏は語った。 アルバータ州情報・プライバシー委員ダイアン・マクロード氏の事務所は、アクソン氏と警察当局がこのプログラムを発表したのと同じ12月2日に、同氏がエドモントン警察からプライバシー影響評価を受けたと発表した。同局は金曜日、「機密性の高い」個人データを収集するプロジェクトの要件である評価の見直しに取り組んでいると発表した。アルバータ大学の犯罪学教授テミトープ・オリオラ氏は、ライブ顔認識技術がすでに空港のセキュリティやその他の環境で普及していることを考えると、同市がライブ顔認識の実験を行っていることに驚かないと述べた。 「エドモントンはこのツールの実験室です」とオリオラ氏は語った。 「改善される可能性は十分にありますが、それは確かではありません。」オリオラ氏は、特に昨年の南スーダン人コミュニティのメンバーに対する警察射殺事件以降、警察は先住民族や黒人住民と時として「冷ややかな」関係にあるとし、顔認識技術によって警察活動がより安全になるのか、あるいは一般大衆との交流が改善されるのかはまだ分からないと述べた。 アクソンは、2022年にフリードマン氏とアクソンのAI倫理委員会の他の7人のメンバーがテーザー銃搭載無人機への懸念に抗議して辞任するなど、過去にもテクノロジー展開に対する逆風に直面している。アクソン社が顔認識を拒否して以来数年間、同社は技術の「管理された実験室ベースの研究を継続」しており、その技術は「かなり正確になり」、現在は現実世界での試験の準備が整っている、とCEOのスミス氏は述べた。 しかし、アクソン氏はAP通信への声明の中で、すべての顔認識システムは「距離、照明、角度などの要素」の影響を受けており、肌の色が濃い人の精度に不相応に影響を与える可能性があることを認めた。アクソン氏は、すべての試合には人間によるレビューが必要であり、そのテストの一部は「既知のリスクを軽減するために人間のレビュー担当者がどのようなトレーニングと監督をしなければならないかを学ぶ」ことも目的としていると述べた。フリードマン氏は、アクソン社はそれらの評価を開示すべきだと述べた。同氏は、取締役会が警察のカメラでの顔認識の使用を倫理的に正当化できるほど信頼性が低いと結論づけて以来、顔認識が向上しているというさらなる証拠を知りたいと考えている。 フリードマン氏は、警察機関が地方議員による審議や厳格な科学的検査を経ずにこの技術の使用にゴーサインを出していることも懸念していると述べた。 「これは単に警察機関が下す決定ではないし、もちろん業者が下す決定でもない」と同氏は述べた。 「試験運用は素晴らしいアイデアだ。しかし、透明性と説明責任があるはずだ。…そのどれもここには存在しない。彼らはただ進めているだけだ。彼らは、進めてくれる代理店を見つけたので、ただ進めているだけだ。」—- #カナダのエドモントンでAIを搭載した警察のボディーカメラが倫理的懸念を引き起こす