日本語版
最新ニュース
科学&テクノロジー

顔認識の失敗:デトロイトはAIを泥棒と誤認した男に30万ドルの支払いを強いられる

デトロイト市は、市警察の顔認識ソフトウェアが誤って男性を特定し、万引きの容疑をかけたことに対し、和解金として男性に30万ドルを支払うことに同意した。市はまた、法執行機関が犯罪解決に顔認識技術をどのように使用するかについての政策も改訂する予定である。市民ロバート・ウィリアムズ氏を巻き込んだ訴訟和解は、2018年に彼の運転免許証の写真が、シャイノラ時計店の防犯カメラの映像に映っていた容疑者と誤って一致した事件に端を発している。「今後、この技術の使用に関する安全策が強化され、それによってより良い世界で暮らせるようになることを非常にうれしく思います」とウィリアムズ氏は記者団に語った。「しかし、私たちが望むのは、この技術をまったく使用しないことです」顔認識における精度と偏りアメリカ自由人権協会(ACLU)とミシガン大学ロースクールの公民権訴訟イニシアチブ(CRLI)は金曜日、共同で和解合意を発表した。彼らは、顔認識技術は信頼性が低く、特に被害を受けたウィリアムズ氏が黒人であることから、有色人種に対して偏見があると主張している。さらに彼の不当逮捕の影響を強調するのは、 ACLU ウィリアムズ容疑者は自宅の外で、二人の幼い娘と妻の目の前で、また近所の人々の目の前で逮捕され、過密で不潔な独房で30時間も拘留されたと指摘した。 ACLU は、デトロイト警察が顔認識の一致のみに基づいて逮捕を行うことが制限されると報告した。さらに、顔認識検索から得られた写真の並びに基づいて逮捕を行うこともできない。「警察は顔認識の手がかりを得て、昔ながらの警察捜査を行い、身元が判明した人物が犯罪を犯した可能性があると信じるに足る根拠が実際にあるかどうかを調べることができる」とACLUの弁護士フィル・メイヤー氏は語った。デトロイト警察は和解についてまだコメントしていない。昨年8月、訴訟の最中、ジェームズ・ホワイト署長は同技術に関する新しい方針を実施した。これは、妊娠8ヶ月の女性が誤ってカージャックの罪で起訴された別の事件を受けてのものだ。ホワイト署長の以前の声明によれば、警察が顔認識技術を利用するには、技術とは別に、容疑者が犯罪を犯す「手段、能力、機会」を持っていることを示す追加の証拠が必要だという。誤認の影響ウィリアムズとの和解では、デトロイト警察が2017年から2023年までに顔認識が使用された事件を遡及的に調査することを規定している。調査の結果、追加証拠なしに顔認識のみで逮捕が行われたことが判明した場合、検察官に通知される。テクノロジーは犯罪捜査に大きな利点をもたらすが、その限界を無視することはできない。顔認識の誤りで不当に逮捕されたロバート・ウィリアムズの事件は、このことを完璧に例証している。彼の状況は孤立した事件ではない。5月には、ウィリアムズ事件と似たような19歳の女性が、警察に万引き犯と誤認された。 フェイスウォッチ英国で事業を展開する大手生体認証セキュリティ企業。先月、OpenAIのAI搭載チャットボットChatGPTが 不当に告発された ジョージ・ワシントン大学の法学教授ジョナサン・ターリー氏は、学生に対する性的嫌がらせの罪で起訴された。このような事件は、顔認識技術の精度に対する懸念を引き起こします。この技術が公正かつ効果的に使用されるようにするには、さらなる開発と規制が必要です。 #顔認識の失敗デトロイトはAIを泥棒と誤認した男に30万ドルの支払いを強いられる

顔認識の失敗:デトロイトはAIを泥棒と誤認した男に30万ドルの支払いを強いられる

1720021974
2024-07-03 08:14:09

デトロイト市は、市警察の顔認識ソフトウェアが誤って男性を特定し、万引きの容疑をかけたことに対し、和解金として男性に30万ドルを支払うことに同意した。市はまた、法執行機関が犯罪解決に顔認識技術をどのように使用するかについての政策も改訂する予定である。

市民ロバート・ウィリアムズ氏を巻き込んだ訴訟和解は、2018年に彼の運転免許証の写真が、シャイノラ時計店の防犯カメラの映像に映っていた容疑者と誤って一致した事件に端を発している。

「今後、この技術の使用に関する安全策が強化され、それによってより良い世界で暮らせるようになることを非常にうれしく思います」とウィリアムズ氏は記者団に語った。「しかし、私たちが望むのは、この技術をまったく使用しないことです」

顔認識における精度と偏り

アメリカ自由人権協会(ACLU)とミシガン大学ロースクールの公民権訴訟イニシアチブ(CRLI)は金曜日、共同で和解合意を発表した。彼らは、顔認識技術は信頼性が低く、特に被害を受けたウィリアムズ氏が黒人であることから、有色人種に対して偏見があると主張している。

さらに彼の不当逮捕の影響を強調するのは、 ACLU ウィリアムズ容疑者は自宅の外で、二人の幼い娘と妻の目の前で、また近所の人々の目の前で逮捕され、過密で不潔な独房で30時間も拘留されたと指摘した。