ИИ открыл двери для массовой прослушки населения
Шпионаж (прослушка) и наблюдение (слежка) — это разные, но связанные вещи. Если нанять частного детектива для прослушки, то он может спрятать несколько жучков в доме, машине — и в итоге получит отчёт с записями разговоров объекта. Если же ему поручили работу по наблюдению, то содержание отчёта будет другим: куда ходил человек, с кем разговаривал, что покупал, что делал.
До появления интернета установить за кем-то наблюдение было дорого и долго. Нужно было вручную следить за человеком, отмечая, куда он ходит, с кем разговаривает, что покупает, что делает и что читает. Но этот старый мир навсегда ушёл в прошлое. Теперь наши телефоны отслеживают местоположение, банковские карты регистрируют покупки, приложения отслеживают, с кем мы разговариваем и что читаем. Компьютеры собирают данные обо всех наших действиях, и по мере удешевления хранения и обработки эти данные всё чаще сохраняются и используются. То, что было индивидуальной работой, сейчас стало массовым. Слежка за людьми стала бизнес-моделью для интернет-компаний, и у нас нет разумного способа отказаться от неё.
Шпионаж и слежка
Прослушка (шпионаж) — это другое дело. Уже давно можно прослушивать чей-то телефон или установить «жучок» в доме или машине, но всё равно кто-то должен слушать и разбираться в разговорах. Специальные хакерские фирмы вроде NSO Group разрабатывают софт для шпионажа, который продают силовым структурам и правительствам разных стран, чтобы те взламывали телефоны граждан, но всё равно кто-то должен тратить время и разбираться во всех записях разговоров.
Шпионаж ограничен тем, что требуется работа живых людей.
ИИ изменит ситуацию. Он отлично справляется с составлением резюме (реферата). Дайте ему часовую запись, и он выдаст краткое изложение сказанного на одной странице. Попросите просмотреть миллионы разговоров и упорядочить их по темам, и он сделает это. Хотите узнать, кто о чём говорит? Он скажет.
Эта система, которая просто идеально подходит для массового шпионажа за населением, анализа миллионов записей, текстовых сообщений, обобщения и выделения отдельных тем. Так считает известный эксперт, специалист по безопасности Брюс Шнайер.
Cкоро мы вступим в эпоху массового шпионажа.
Массовое наблюдение в корне изменило природу самого наблюдения. Поскольку все цифровые данные сохраняются, то оно позволяет вести наблюдение в прошлом: «Скажите, где этот человек был в прошлом году. Перечислите все красные седаны, проехавшие по этой дороге за последний месяц. Перечислите всех людей, которые за последний год купили все ингредиенты для бомбы в скороварке. Найдите все пары телефонов, которые рядом друг с другом, выключались, а через час снова включались, удаляясь друг от друга (признак тайной встречи), — перечисляет Брюс Шнайер возможности современных систем. — Точно так же массовый шпионаж изменит природу шпионажа. Все данные будут сохраняться. Их можно будет искать и обрабатывать в большом количестве».
«Кто говорил на определённую тему за последний месяц и как развивались дискуссии на эту тему. Человек А сделал что-то; проверим, указал ли ему кто-то это сделать. Найти всех, кто замышляет преступление, распространяет слухи или планирует принять участие в политическом протесте».
Таковы возможности будущих систем с применением ИИ для массовой прослушки.
И многое другое: «Чтобы выявить организационную структуру, найдите человека, который даёт похожие указания группе людей, а затем всех, кому он передал эти указания. Чтобы найти доверенных лиц людей, посмотрите, кому они передают секреты. Вы можете отслеживать дружбу и союзы, как они формируются и разрушаются, в мельчайших подробностях. Короче говоря, вы можете знать всё о том, о чём говорят все люди, любой человек».
Этот шпионаж не ограничивается разговорами на телефонах или компьютерах. Как камеры повсюду способствовали массовому наблюдению, так и микрофоны повсюду будут способствовать массовому шпионажу. Siri, Alexa и «Hey Google» уже постоянно прослушивают все квартиры, где они установлены, просто разговоры пока не сохраняются.
Осознание постоянной прослушки меняет поведение людей. Они станут подчиняться и введут самоцензуру. Наблюдение способствует социальному контролю, а шпионаж только усугубляет ситуацию.
Корпорации будут шпионить за людьми. Массовое наблюдение открыло эру персонализированной рекламы, а массовый шпионаж сделает эту индустрию ещё популярнее. Информация, о чём говорят люди, об их настроении, секретах — всё это станет лакомым кусочком для маркетологов, считает Брюс Шнайер. Технологические монополии, которые сейчас держат нас всех под постоянным наблюдением, не смогут удержаться от сбора и использования всех этих данных.
Разные формы слежки
Можно представить будущее, в котором видеокамеры будут установлены на каждом столбе, покрывая 99% территории. Все видеопотоки поступают в единую систему с автоматическим распознаванием лиц и подозрительной активности. Основную часть работы будет выполнять система машинного зрения, то есть ИИ. Этой теме посвящены работы бельгийского художника Дриса Депуртера (Dries Depoorter), который показывает будущее (и настоящее), где слежка принимает разные формы.
Например, для концептуальной работы «Последователь» (2022) он установил в городе несколько маленьких видеокамер на Raspberry Pi. с распознаванием лиц с помощью библиотеки Keras и распознаванием объектов в системе YOLO. В течение нескольких недель он записывал снимки с открытых камер, а затем собрал все фотографии из Instagram, помеченные геотегами на этом месте. Программа распознавания изображений сравнивала их — и показывала кадры, как в реальности люди делали фотографии для своего инстаграма:
Если такое сравнение может произвести один артист с помощью подручного оборудования, можно представить, на сто способны профессиональные системы массовой слежки на государственном уровне.
Из других работ Депуртера — говорящая видеокамера, которая распознаёт объекты в кадре и озвучивает вслух, что она видит:
Работа The Flemish Scrollers, где система машинного зрения автоматически распознаёт имена парламентариев, которые сидят в телефоне:
Затем видео автоматически отправляется в инстаграм и X с тегом на имя политика и сообщением «Пожалуйста, сосредоточься».
Последняя работа даёт понять, что технологии машинного зрения и ИИ могут использоваться не только для наблюдения за населением со стороны властей, но и наоборот.
