面部识别程序 一直以来 都存在 产生错误匹配 的 令人担忧的记录，尤其是在 非白人群体 中。最近的一个案例涉及一名女子，她在被捕时已有八个月身孕。据《纽约时报》报道，底特律警察局的警官据称因一起她未犯下的抢劫和汽车盗窃案而逮捕并拘留了 Porcha Woodruff 超过 11 小时。
涉事事件发生在 2 月 16 日，Woodruff 的律师于 8 月 3 日 对底特律市提起诉讼。尽管 Woodruff 明显怀孕并辩称她不可能在身体上实施相关罪行，但仍有六名警官参与了在她邻居和两个孩子面前给 Woodruff 戴上手铐，然后将其拘留，并没收她的 iPhone 作为证据搜查的一部分。而案发于 1 月 29 日的抢劫案视频中的女子明显没有怀孕。
[相关：Meta 尝试使用新的、更“包容”的人工智能训练数据集。]
据诉状称，当晚晚些时候，Woodruff 以 10 万美元的个人保释金获释，不到一个月后，法官因“证据不足”驳回了对她的指控。
警方对备受诟病的面部识别软件的依赖所造成的影响远远超出了那个晚上。据报道，Woodruff 出现了宫缩和背部痉挛，并在离开警局后因脱水需要到当地医院接受静脉输液。
“底特律警察局明知使用有缺陷的面部识别技术作为逮捕依据会带来毁灭性的后果，却仍然继续依赖它，这非常令人担忧，”密歇根州美国公民自由联盟 (ACLU of Michigan) 的高级律师 Phil Mayor 在一份声明中说。
据美国公民自由联盟称，Woodruff 是第六位据报道因面部识别不准确而被警方错误指控犯罪的人——在所有这些情况下，被错误指控的人都是黑人。Woodruff 是第一个站出来讲述此类经历的女性。Mayor 所在的 ACLU 分支 也在代理 一名男子，该男子起诉底特律警察局，起因是 2020 年一起涉及面部识别偏见的类似事件。据报道，这是 DPD 近年来第三起被指控的错误逮捕事件。
[相关：深度伪造音频欺骗人的成功率已近 25%。]
Mayor 继续说道：“正如 Woodruff 女士可怕的经历所表明的那样，该部门必须停止使用这项技术。此外，DPD 继续掩盖其滥用这项技术的行为，迫使那些权利受到侵犯的人逐案揭露其不当行为。” 在一份 声明 中，DPD 警察局长 James E. White 写道：“我们正在非常认真地对待此事，但由于需要进一步调查，目前我们无法发表更多评论。”
类似的带有偏见的面部扫描结果并非仅限于执法部门。2021 年，底特律一家当地溜冰场的工作人员使用该技术将一名 黑人青少年 误认为是一名曾被该场所禁止入内的人。在其他地方，公共住房官员正在 使用面部识别技术 对居民进行监控和驱逐，而几乎没有或根本没有监管。
