Найден способ отличить фото реального человека от фейка, созданного нейросетью
Согласно новому исследованию, проведенному командой из Государственного университета Нью-Йорка, весь секрет кроется в глазах, а именно — в форме зрачка
Увеличив масштаб искусственных глаз фальшивых лиц, созданных системой машинного обучения GAN, исследователи обратили внимание на одну интересную особенность. Если форма зрачка у живого человека всегда круглая, то у сгенерированных лиц она могла быть, по факту, какой угодно. «Сравнивая с реальными лицами, мы наблюдаем видимые артефакты и несоответствия в моделях лиц, созданных GAN», — пишут авторы работы.
По словам исследователей, эта странная аномалия связана с тем, что в моделях GAN отсутствует понимание анатомии человеческого глаза, особенно в том, что касается геометрических форм обычных зрачков.
Чтобы изучить, насколько широко распространено это явление, ученые разработали инструмент обнаружения, который автоматически извлекает очертания зрачков из глаз на фотографиях, а затем оценивает их, чтобы проверить, имеют ли они эллиптическую форму.
В эксперименте, в котором инструмент работал с базой данных из 2000 изображений (1000 — настоящие лица, а 1000 — подделки), система доказала свою способность различать две группы. «Мы обнаружили, что неправильные формы зрачков широко распространены в высококачественных рендерах лиц, созданных нейросетью StyleGAN», — объясняют исследователи.
«Мы предлагаем новый физиологический метод, который может использовать неправильную форму зрачка в качестве ориентира для распознавания лиц, созданных GAN — это простой, но эффективный метод».
По словам команды, подобные технологии однажды могут помочь противостоять злонамеренному использованию реалистично выглядящих подделок, используемых, в частности, для обмана людей в социальных сетях.
По крайней мере, до тех пор, пока кто-нибудь не научит ИИ рисовать зрачки правильной формы.
