Ошибка системы распознавания лиц привела к незаконному аресту афроамериканца
Американский союз гражданских свобод (ACLU) подали официальную жалобу на полицию Детройта по поводу первого известного случая неправомерного ареста из-за ошибки технологии распознавания лиц.
Роберт Джулиан-Борчак Уильямс, афроамериканец, был арестован после того, как система распознавания лиц ложно сопоставила его фотографию с видеозаписью, сделанной сотрудником службы безопасности. ACLU призывает закрыть дело Уильямса и удалить его информацию из криминальных баз данных Детройта. После переговоров прокуроры согласились удалить его данные.
Фото: telegraph.co.uk
Ограбление, в котором Уильямс был обвинен, было совершено в октябре 2018 года. В марте 2019 года кадр из видео с камер наблюдения магазина был загружен в базу данных по распознаванию лиц штата Мичиган. Система выдала серию фотографических совпадений. Фотография Уильямса была включена в папку фотографий, которые показали охраннику магазина. Этот охранник, который, по данным ACLU, не был свидетелем ограбления, лично идентифицировал Уильямса.
Опознание привело к тому, что Уильямс был арестован на подъездной дорожке его дома в январе, после чего он был взят под стражу в общей сложности на 30 часов. Уильямс рассказал о своем аресте в статье для The Washington Post. Он говорит, что в одном из интервью с полицией, следователь сравнил фотографию грабителя из видеозаписи с лицом Уильямса, после чего один из сыщиков сказал: «Компьютер, должно быть, ошибся».
Хотя дело Уильямса было закрыто через две недели после его ареста, в результате ареста в базе данных теперь хранятся образец ДНК Уильяма, фотография и отпечатки пальцев. Также арест был зарегистрирован в протоколе.
Представитель полиции Детройта сообщил, что департамент принял решение прокурора о прекращении дела и что с июля 2019 года политика департамента заключалась в том, чтобы использовать распознавание лиц только для расследования насильственных преступлений.
Роберт Джулиан-Борчак Уильямс Фото: nytimes.com
После случая Уильямса, несколько высокотехнологичных компаний, в том числе IBM, Microsoft и Amazon, объявили, что они остановят или приостановят работу систем по распознаванию лиц.
«Мы считаем, что сейчас самое время начать общенациональный диалог о том, следует ли применять технологию распознавания лиц в местных правоохранительных органах и как лучше организовать их работу», — заявил генеральный директор IBM Арвинд Кришна в своем заявлении ранее в этом месяце.
Системы распознавания лиц используют программное обеспечение для сопоставления изображения лица с фотографиями, хранящимися в базе данных. Ее все чаще изучают защитники гражданских свобод, технологи и законодатели в связи с опасениями по поводу алгоритмической дискриминации и несовершенства технологии.
В США технология распознавания лиц подвергалась критике в течение многих лет, и исследователи показали, что система предвзята по отношению к представителям разных рас и этнических групп.
Источник
Полный текст статьи читайте на Компьютерра
