Обмануть систему распознавания лиц — легко
Повсеместное внедрение систем распознавания лиц начало приводить к появлению программ, обманывающих искусственные интеллекты. Это закон равенства действия и противодействия — третий закон Ньютона, который вполне применим и к социальной сфере.
Мысль о том, что фотографии, которыми мы делимся, собираются компаниями для обучения алгоритмов ИИ — не самая приятная. Но все мы так или иначе попадаем в базы. Сегодня можно купить доступ к одной из них, сфотографировать незнакомого человека и узнать все о нем за считанные секунды.
Например, фирма Clearview AI, занимающаяся распознаванием лиц, заверяет, что собрала около трех миллиардов снимков лиц с таких сайтов, как Facebook, YouTube и Venmo, которые используются для идентификации незнакомцев. Как не бороться с таким безобразием?
Поэтому был разработан специальный инструмент под названием Fawkes, созданный учеными из лаборатории SAND Sands университета Чикаго. В ней тоже используется искусственный интеллект, но он на нашей стороне. Тонко и почти неуловимо ИИ вносит коррективы в снимки, обманывая тем самым системы распознавания лиц.
Метод работы программного обеспечения нельзя назвать простым. Использование инструмента не сделает вас невидимым для систем распознавания лиц. Но программное обеспечение внесет незначительные изменения в ваши снимки, благодаря чему алгоритм сканирования изображений будет определять вас как совершенно другого человека. Это словно добавление невидимой маски.
По словам разработчиков Fawkes, эффективность программы составляет 100% и она легко обманывает современные сервисы распознавания лиц от Microsoft (Azure Face), Amazon (Rekognition) и Face ++ от китайской Megvii.
Попробуйте рассмотреть изменения сами. Слева представлены фото до обработки, а справа — после:
SAND Lab, University of Chicago
