科学＆テクノロジー

米国議員、警察の「予測」ツールへのやみくもな資金提供をやめるよう司法省に指示

米国司法省は、州や地方の警察機関が、米国で長年観察されてきた偏見を悪化させる傾向にないにしても、不正確であることが知られているAIベースの「警察」ツールを購入するための連邦補助金を与えられていないことを、米国議員グループを説得できなかった。米国の警察。7人の議員が書簡を送った 司法省への手紙、最初に『WIRED』が入手したところによると、彼らが当局からこじ開けた情報は、司法省の警察補助金プログラムに対する彼らの懸念を煽るだけだったという。 議員らによると、これまでの答弁には政府が補助金を交付した省庁が差別的な取り締まりソフトを購入していたかどうかわざわざ調査しようとしたことを示すものは何もないという。書簡には「補助金受領者が差別的な影響を与える方法でそのようなシステムを使用しないことを司法省が保証できるまで、予知監視システムに対する司法省の補助金をすべて停止するよう強く求める」と書かれている。 以前は司法省が 認められた エドワード・バーン記念司法支援助成プログラムに基づいて授与された資金を、警察がいわゆる予測警察ツールの購入に使用しているかどうかを追跡していなかったという。オレゴン州民主党のロン・ワイデン上院議員が率いる議員らは、司法省は補助金受領者が公民権法第6編を遵守しているかどうかを「定期的に審査」することが法律で義務付けられていると主張している。 彼らは、司法省は、その結果が意図的であるかどうかにかかわらず、人種、民族、出身国に基づいて差別することが判明したプログラムへの資金提供を禁じられていると説明している。報道機関の独立した調査によると、歴史的な犯罪データに基づいて訓練された一般的な「予測」警察ツールは、しばしば長年の偏見を再現しており、法執行機関にせいぜい科学的正当性のうわべを提供している一方で、主に黒人とラテン系アメリカ人が住む地域の過剰な取り締まりを永続させていることが判明した。 The Markup の 10 月の見出しは、率直に次のように述べています。犯罪の予測に優れた予測警察ソフトウェア」 この記事では、同出版物の研究者が最近、23,631 件の警察犯罪予測を調査し、それらの予測がおよそ 1% の確率で正確であることを発見した方法について詳しく説明しています。「予測警察システムは、偽造された犯罪報告と有色人種の不当な逮捕によって歪められた過去のデータに依存している」とワイデンと他の議員は書いており、次のように予測している。多くの研究者がそうしているようにこのテクノロジーは「危険な」フィードバック ループを生み出すためだけに機能しているということ。 声明は、「少数派地域での不当な停止や逮捕を正当化するために偏った予測が利用され」ており、犯罪発生場所に関する統計にさらに偏りが生じていると指摘している。ジェフリー・マークリー、エド・マーキー、アレックス・パディラ、ピーター・ウェルチ、ジョン・フェッターマン上院議員もイベット・クラーク下院議員と同様にこの書簡に連署した。議員らは、警察と人工知能に関する次期大統領報告書で、米国における予測警察ツールの使用状況を調査するよう要請した。 同研究者らは、「報告書では、保護されたクラス全体にわたる予測ポリシングモデルの精度と精度、その解釈可能性、妥当性を評価する必要がある」とし、「開発企業の透明性の欠如によって生じるリスク評価の限界も含めるべきである」と付け加えた。 」司法省がこの評価後もこの技術への資金提供を継続したいのであれば、少なくともどの予測モデルが差別的であるかを判断するための「証拠基準」を確立し、それを満たさないすべての予測モデルへの資金提供を拒否すべきだと議員らは述べている。 #米国議員警察の予測ツールへのやみくもな資金提供をやめるよう司法省に指示