1773748737
かなりの割合のエラー。 2024年末からは、 顔認識ブラジルのサンパウロ中心部に配備されました。しかし、分散した4万台のカメラからの画像を継続的に分析するシステムは、時々ミスを犯す。逃亡者として逮捕された人の8％以上が身元確認ミスの後に釈放された。
この技術（月額 160 万ユーロ）は 2024 年末に導入されました。その年、ブラジルの電話盗難のほぼ 5 件に 1 件がこの南東部の都市で発生し、時には暴力も伴っていました。
現行犯で4000人逮捕
このシステムの導入により、カメラ画像と司法システムからのデータをリアルタイムで照合することにより、合計 4,000 人を現行犯で逮捕し、約 3,000 人の逃亡者を発見することが可能になりました。 「今日は想像もつかない サンパウロ スマート サンパなしで」と人口 1,200 万人のこの都市の安全保障長官オーランド モランドは説明します。
例を挙げると、彼は自分の写真をシステムにアップロードします。 1 秒も経たないうちに、カメラによって彼の顔が認識された場所と時刻のリストが画面に表示されます。
「あの本のことを思い出します 1984年 »、68歳の退職者であるソニア・フェレイラ・シルバは、全体主義の世界を描いたジョージ・オーウェルのディストピア小説に言及して推定している。しかし、象徴的なパウリスタ通りにある移動監視ポストとして機能するトラックの近くで、彼女は「気に入っています。100％承認します」と言う。
混乱の犠牲者
しかし、システムには重大な障害が発生します。 AFPが分析した公式データによると、スマート・サンパの初年度に逃亡者と認定されて逮捕された人の8％以上が、誤って標的にされ釈放されていた。
12月、80歳の退職者がシステムのせいで警察署で数時間を過ごした。 強姦犯。この種の混乱の犠牲者は少なくとも59人だった。
このシステムは、街路に設置されたカメラだけでなく、公共の建物 (病院など) やカメラの存在を受け入れた特定のプライベートな場所にも設置されています。
期限切れの逮捕状
有効期限が切れていることが判明した逮捕状に基づいて少なくとも141人が逮捕された。しかし地方当局は司法当局がデータを正しく更新しなかったとして非難している。
この制度を批判する人たちからのもう一つの批判は、逮捕された逃亡者のほぼ半数が「その他」（犯罪）と呼ばれるカテゴリーに分類されているというものだ。 NGOの報告書によると、彼らのほとんどは慰謝料を支払っていない疑いがあり、「治安の強化に実質的に貢献していない」という。
「国民をコントロールするために使われた」
「スマート・サンパは犯罪の解決策であるかのように見せかけているが、市民をコントロールするために利用されている」とリベルダーデ弁護士ネットワークのディレクターで報告書の共著者であるアマリリス・コスタ氏は批判する。
監視システムを「信用を傷つける」試みと称される事態に直面して、市庁舎は、昨年サンパウロで窃盗件数がほぼ15％減少したという事実を強調したいと考えている。さらに、公式データは、スマート サンパによって身元が特定された後に投獄された人々の半数以上の人種的アイデンティティを特定していません。
アマリリス・コスタ氏にとって、この「ギャップ」は、人口の大多数が黒人または混血である国で起こり得る「アルゴリズム的人種差別」を特定することを可能にするものではありません。いくつかの国で実施された研究によると、AI の顔認識は黒人に対して間違いが多くなる傾向があります。
「スマート・サンパには偏見はありません。肌の色に基づいて人を逮捕することはありません」と市の治安長官は反論する。スマート・サンパの逮捕のほとんどは郊外で行われ、内陸部の貧しい地域の多くの人々が標的となった。
#退職者が強姦犯と間違われるサンパウロではAIを活用したビデオ監視が非行者だけでなく無実の人々もターゲットにしている