Как обмануть нейросети: хищные вещи Йипа ван Леуэнстейнa28.12.2019 13:09

Анастасия Шартогашева

28 декабря 2019 13:00

Проблема первая: наблюдение

Отовсюду направлены нечеловеческие взгляды. Некоторые смотрящие уже умеют узнавать лица. В документальных фильмах, снятых в китайском Урумчи, видны бесконечные ряды камер, контролирующих жизнь уйгуров. В Сан-Франциско полицейские спрашивают разрешения искать преступников на улицах города с помощью машинного зрения — и получают отказ. Впрочем, за экстремальными примерами не нужно ходить далеко: в Москве камеры с распознаванием лиц работают с 2017 года. В 2019 году, по данным сайта мэра столицы, почти 65 тыс. московских камер наблюдения умеют распознавать лица. Согласно официальной риторике, эти камеры помогают МВД искать нарушителей на массовых мероприятиях. Но у технологии могут быть и другие применения, подозревают юристы, в октябре этого года подавшие иск о неправомерном использовании распознавания лиц московскими властями. Поводом стал арест активистки, выступившей с одиночным пикетом в центре Москвы; в ее деле фигурировали записи с камер наружного наблюдения, и адвокаты считают, что эти записи были обработаны системой распознавания.

Открывать свое лицо камерам не нравится очень многим. В числе недовольных — участники протестов, гражданские активисты, юристы — и художники. Разнообразные способы укрыться от автоматических глаз — это уже новый жанр. Японский профессор Исао Эчизен предложил слепить камеры невидимыми человеческому глазу инфракрасными светодиодами, спрятанными в очках. Идею подхватили другие инженеры и дизайнеры; оказалось, что с помощью ИК-ламп можно не только засветить лицо, но и заставить камеру увидеть совсем другого человека (для демонстрации технологии используют, как правило, лица знаменитостей).

Хищный робот Dionaea Mechanica Muscipula приманивает мотыльков светом и «переваривает», получая из них электроэнергию (на самом деле нет, но идея такая).

Есть и другие подходы: например, шапочки с приклеенными ко лбу adversarial examples — картинками, которые сбивают с толку нейросети, заставляя их видеть вместо человеческих лиц совсем другие объекты. Есть проекты отвлекающего компьютерный взгляд макияжа, закрывающие лицо маски и многое другое. А Йип ван Леуэнстейн придумал, как обмануть нейросеть, не мешая при этом другим людям узнавать знакомое лицо. Он сделал из пластика прозрачные маски с гранями вдоль лица; свет преломляется в них, и системы распо­знавания не обнаруживают лица ни с одного ракурса. При этом маска не мешает другим людям видеть скрытое маской лицо и его мимику.

Насколько маска эффективна, сказать сложно. С одной стороны, даже обычные солнечные очки заставляют 90% городских камер наблюдения терять вас в толпе. С другой стороны, методы распознавания постоянно совершенствуются; некоторые из них позволяют реконструировать лицо по картинке низкого качества, исправляют искажения, в том числе внесенные намеренно, справляются с обманным макияжем, отфильтровывают инфракрасное излучение. В конце концов, лицо не единственное, по чему можно узнать человека на видео: уже есть нейросети, которые безошибочно устанавливают личность по походке, осанке, биению сердца.

Робот-охотник на мотыльков отлично вписался в амстердамский парк Zone2Source, став частью выставки Machine Wilderness, в которой собраны работы художников, инженеров и экологов, посвященные отношениям технологий и окружающей среды.

У государств есть свои методы, более грубые, чем у разработчиков: в охва­ченном протестом Гонконге, например, просто запретили носить любые маски, более того — их ношение с лета 2019 года является достаточным основанием для ареста. Критики указывали и на отсутствие вентиляционных отверстий в маске Йипа — она наверняка быстро запотеет, стоит ее обладателю прибавить шагу или войти в помещение с мороза. Но дело не в этом. Маска не готовое решение, а арт-объект, ее задача — поднять вопрос.

Проблема вторая: исчезновение

Маска — о том, что никому не хочется непрошеных взглядов, а другой проект Йипа ван Леуэнстейна — о том, что человеку очень сложно подражать природе. Ван Леуэнстейн придумал искусственного хищника, робота, призванного заменить естественных «санитаров леса» в городе. Охотиться он будет на мотыльков дубового шелкопряда (Thaumetopoea processionea).

Даже если представить, что робот-хищник работает так, как задумано, и справляется со своими обязанностями, он все равно покажется громоздким и странным — как и другие попытки человека вмешаться в экосистему.

Ван Леуэнстейн выбрал действительно неприятного противника. Дубовые шелкопряды выглядят в одной части жизни как невзрачные мотыльки, в другой — как пушистые гусеницы. Последние уничтожают листву и, сильно расплодившись, могут привести к гибели целой дубравы, что иногда и происходит в Европе. Кроме того, гусеницы выделяют белок, способный вызвать у человека сильную аллергическую реакцию — покраснение кожи, зуд, раздражение слизистых.

Естественные экосистемы справляются с гусеницами самостоятельно. В траве и кустах живут и размножаются насекомые, которые едят шелкопряда, — в первую очередь муравьи; им помогают птицы. А вот если дубы растут в созданной человеком среде — например, вдоль городского бульвара, — хищникам взяться неоткуда, и гусеницы получают полную свободу. Дополнительные проблемы создает расширение ареала шелкопрядов, вызванное глобальным потеплением: в последние годы их обнаруживают все севернее и севернее, в Скандинавии, где у них вообще нет естественных врагов.

Маски, одежда, грим, гаджеты для обмана камер с распознаванием лиц уже превратились в самостоятельный жанр. Стеклянная маска ван Леуэнстейна не самое эффективное решение, но одно из самых изящных.

Чтобы справиться с ними, Йип придумал искусственного хищника. Это маленький насекомоподобный робот, который ползает по деревьям и охотится на шелкопрядов. Охотится он ради пищи: предполагается, что робот будет переваривать и метаболизировать шелкопрядов, получая из их плоти электроэнергию. Мотыльки шелкопряда летят на свет, поэтому приманивать их робот будет светодиодом; второй вариант приманки — сами мотыльки, которых робот может убивать не сразу, а через некоторое время. Пока насекомые кружатся вокруг источника света в «пасти» робота, они испускают феромоны, привлекающие других, — чем и хотят воспользоваться авторы проекта.

«В конце концов мы становимся перед вопросом о том, до какой степени человечество сможет удовлетворить свое желание все контролировать»

Робот-хищник (технически невозможный со своей электрохимической пищеварительной системой) — это предложение восстановить баланс, не сбрасывая экосистему к базовым настройкам. Пусть останутся города и дубовые аллеи в них, но давайте поможем им выжить, дополнив металлическим охотником на насекомых, предлагает художник. Это очень оптимистично — думать, что природе можно помочь вот так, с помощью рукотворных вещей. Мы уже много раз пытались поступать так, но попытки заканчивались провалом. На ум приходят жабы, завезенные в 1930-е годы в Австралию в качестве «безопасных» пестицидов. Есть вредителей жабы не стали, зато с аппетитом накинулись на других местных насекомых, расплодились и сейчас всерьез угрожают био­разнообразию Австралии, в том числе популяциям редких сумчатых. «Робот-хищник дает все преимущества без потери контро­ля», — пишет ван Леуэнстейн.

На наши лица охотятся не только правоохранительные органы, но и те, кто делает рекламу и поэтому хочет знать о вас все, предупреждает ван Леуэнстейн.

Оба проекта Леуэнстейна — про контроль, только в одном случае от него нужно избавиться (маска с защитой от распознавания), а в другом, наоборот, обрести (хищный робот). В реальности все наоборот: природные процессы (в первую очередь климат) контро­лировать не удается, а государства и корпорации только усиливают надзор. Одним из немногих способов выразить свое недовольство и желание изменить ситуацию остается творчество. Заведомо бесполезные (как маска) или невозможные (как робот, питающийся бабочками) идеи нидерландского художника, кажется, говорят о непринятии и беспомощности —, но делают это красиво.