К чему приводят ошибки распознавания лиц

Полиция арестовала беременную женщину из-за ошибки системы распознавания лиц

Ранним февральским утром 2023 года шестеро полицейских Детройта принесли ордер на арест в дом Порши Вудрафф, 32-летней матери двоих детей, которая, к тому же, находилась на восьмом месяце беременности третьим ребенком. Полицейские утверждали, что 18 днями ранее она была замешана в ограблении и угоне автомобиля. Позднее Вудрафф узнала, что ее ошибочно привлекли в качестве подозреваемой в результате неправильного распознавания лица. Как отмечает New York Times, в Детройте используется система распознавания лиц DataWorks Plus.
В результате ошибки, Вудрафф была обвинена в соучастии в ограблении и угоне. Под дулом пистолета у неё отобрали телефон и подвергли 11-часовому допросу. Выпустили её лишь после внесения залога в 100 000 USD. Впоследствии она была доставлена в больницу с симптомами обезвоживания, ставшего следствием пережитого стресса.

Женщина подал иск против города Детройт и полицеских следователей, обвинив их в ложном аресте, злонамеренном судебном преследовании и нарушении её гражданских прав. Это дело стало знаковым, в очередной раз обозначив возможные негативные последствия использования технологии распознавания лиц в правоохранительных органах. Департамент полиции Детройта был замешан еще как минимум в двух случаях неправомерного ареста из-за неудачного распознавания лиц.