Искусственный интеллект Facebook назвал чернокожих «приматами»
Алгоритмы искусственного интеллекта оказываются далеко не идеальными, когда дело доходит до распознавания лиц. ИИ Facebook, например, не смог отличить чернокожих людей от приматов
Программное обеспечение для распознавания лиц, которое Facebook с недавних пор использует для рекомендации контента, получило волну критики от защитников гражданских прав, которые указывают на проблемы с точностью работы алгоритмов. Особенно это касается распознавания лиц людей, имеющих отличный от белого цвет кожи.
Пользователи Facebook, которые в последние несколько дней смотрели видео британского таблоида с участием чернокожих мужчин, получали затем автоматически сгенерированное приглашение с вопросом, хотели бы они «продолжать смотреть видео о приматах».
Видео, о котором идет речь, было опубликовано в июне 2020 года газетой Daily Mail. Оно было озаглавлено «Белый человек вызывает полицейских при драке с чернокожими на стоянке для яхт». Хотя люди относятся к числу многих видов семейства приматов, видео не имело ничего общего с обезьянами, шимпанзе или гориллами. Скриншотом рекомендации поделилась в Twitter бывший менеджер по дизайну контента Facebook Дарси Гроувс.
После того, как эта новость распространилась по сети, официальный представитель Facebook назвал это «явно неприемлемой ошибкой» и заявил, что программное обеспечение для рекомендаций было отключено. Теперь аналитики внутри соцсети будут расследовать это происшествие и дорабатывать свое ПО.
