Создан способ незаметного изменения фотографии для защиты от распознавания лица24.07.2020 18:47

Он заставляет такие системы неправильно обучаться

24ffda63bfdc4feaf9118eebfb269382d46a172c

Специалисты лаборатории SAND при Чикагском университете создали способ незаметного изменения фотографии для защиты от распознавания лица. Утилиту назвали Fawkes.

Она вносит в снимки пиксельные изменения, которые незаметны для человеческого глаза. Однако эти изменения критичны для обучающихся алгоритмов систем распознавания лиц.

Если обработать фотографию Fawkes перед публикацией в соцсетях, можно защитить её от применения в качестве данных для обучения систем распознавания лиц. В итоге алгоритм предоставляет защиту от 95% попыток распознавания лиц.

В будущем даже при использовании необработанных утилитой фотографий уровень сбоёв при распознавании сохранится и составит не менее 80%.

Отмечается, однако, что на системы распознавания спецслужб, которые обучаются на основе достоверных источников, созданная утилита повлияет в меньшей степени.