Операция «Stop News»: российская кампания влияния
OpenAI заблокировала российские учетные записи «Stop News», использовавшие ИИ для создания многоязычных статей и постов, направленных против Украины и стран Запада.
Этот тематический анализ был изначально опубликован в отчете OpenAI за октябрь 2024 года.
Субъект
Мы заблокировали группу учетных записей ChatGPT, которые генерировали контент на английском, французском и русском языках, впоследствии размещавшийся на различных веб-сайтах и в аккаунтах социальных сетей на нескольких платформах. Эта деятельность исходила из России и соответствовала характеру операций, проводимых маркетинговой компанией. Мы начали расследование после изучения внеплатформенных индикаторов в отчете Meta об угрозах за второй квартал 2024 года.
Поведение
В рамках этой операции наши модели использовались для создания коротких комментариев, объемных статей и изображений. Статьи на английском и французском языках затем публиковались на группе веб-сайтов, выдававших себя за новостные агентства в Африке и Великобритании. Короткие комментарии размещались учетными записями в X. (Некоторые из них также могли публиковаться в Facebook и Instagram до блокировки со стороны Meta, однако мы не можем независимо верифицировать эту активность.) Контент на русском языке использовался в качестве рекламных материалов на различных веб-сайтах и русскоязычных форумах. Два веб-сайта использовали бренд «newstop», в связи с чем мы назвали эту операцию «Stop News».
Выдержка со страницы «Приветствие» на сайте петербургской компании по ремонту. Текст был сгенерирован данным субъектом с использованием наших моделей. Никаких указаний на то, что ремонтная компания имела какое-либо отношение к операции влияния, не обнаружено.
Эта операция отличалась необычно широким использованием изображений. Множество ее веб-статей и твитов сопровождались картинками, созданными с помощью DALL·E. Эти изображения часто выполнялись в мультяшном стиле и использовали яркие цветовые палитры или драматичные тона для привлечения внимания. У нас нет данных о том, что они предназначались для ложного представления реальных событий, которых никогда не было, или для создания дипфейков: скорее всего, их целью было привлечь взгляды и сделать статьи или посты в соцсетях более увлекательными. Несмотря на это, общий уровень вовлеченности оставался низким — лайков, комментариев, репостов или просмотров было мало либо не было вовсе.
Твиты, опубликованные в рамках операции в августе. Тексты и изображения были созданы с использованием наших моделей. Обратите внимание на низкое число комментариев, репостов и лайков.
Хотя операция использовала современные методы ИИ для создания привлекательных картинок, у многих ее аккаунтов в соцсетях были фотографии профиля, которые, судя по всему, были созданы с помощью более ранней технологии искусственного интеллекта: генеративно-состязательных сетей (GAN). Они являются неизменным атрибутом онлайн-операций влияния как минимум с 2019 года. Изображения GAN можно быстро и легко скачать из интернета, и они остаются основным инструментом современных операций влияния: о другой кампании, использующей их, мы рассказывали в нашем майском отчете об угрозах. Это в очередной раз иллюстрирует то, как операции комбинируют технологии разных эпох, включая учетные записи в соцсетях, веб-сайты, сгенерированные GAN лица и контент от ИИ — как мы уже описывали в мае.
Одной из (пока уникальных) особенностей этой операции является то, что ее британские веб-сайты, судя по всему, установили «информационные партнерства» с государственными учреждениями Великобритании, включая школу в Уэльсе и церковь в Йоркшире. Эти партнерства публиковались на сайтах самих партнеров. Неясно, каким образом были установлены эти отношения и какую выгоду организаторы пытались из них извлечь.
Контент
Эта операция генерировала комментарии и статьи на английском, французском и русском языках. На английском языке большинство комментариев и статей описывали новости, спортивные и культурные события в Великобритании. Сайт britishtalks[.]com, судя по всему, был сосредоточен исключительно на таком неполитическом контенте, в то время как сайт euronewstop[.]co[.]uk совмещал его с критикой Украины и поддержки Украины со стороны Великобритании. На французском языке многие комментарии и статьи были посвящены музыке и культуре в Африке, особенно в Западной Африке; некоторые критиковали Украину и Францию, обвиняя последнюю в провалах при организации Олимпийских игр. (Это стало излюбленной темой российских операций влияния после отстранения России от участия в Олимпийских играх.)
Комментарии и изображения с критикой Олимпийских игр в Париже, сгенерированные в рамках этой операции с помощью наших моделей.
На русском языке контент состоял в основном из коротких текстовых комментариев, рекламирующих коммерческие услуги на северо-западе России, особенно в Санкт-Петербурге и Ленинградской области. Часть этих комментариев, судя по всему, предназначалась для размещения на сайтах, а другие подавались как ответы на отзывы клиентов на русскоязычных форумах.
Скриншот ответа на отзыв клиента на странице петербургской компании в Яндексе. Представленный здесь текст был сгенерирован субъектом угроз с помощью наших моделей, но преподнесен компанией как «официальный ответ». Никаких указаний на то, что сторонняя компания имела какое-либо отношение к операции влияния, не обнаружено.
Влияние
Эта операция представляла собой необычное сочетание усилий по наращиванию аудитории, которые принесли неоднозначные результаты. В социальных сетях ее аккаунты не получили значительного распространения: у большинства выявленных нами учетных записей в X число подписчиков исчислялось двузначными цифрами, а Meta сообщила, что совокупная аудитория ее аккаунтов в Facebook и Instagram составляла 2100 человек. Тем не менее, новостные бренды, ориентированные на Великобританию, судя по всему, установили «информационные партнерства» с рядом местных организаций, включая церковь в Йоркшире, школу в Уэльсе и ассоциацию торговых палат в Калифорнии. Упомянутые местные организации публиковали информацию об этих партнерствах и обычно описывали договоренности, в рамках которых веб-сайт обеспечивал бы им рекламу и информирование, получая взамен возможность взаимодействовать с их членами — например, посредством совместных публикаций или общественных мероприятий. Неясно, как именно были заключены эти партнерства и получали ли партнеры постоянную поддержку со стороны сайтов.
Оценивая влияние операций с помощью шкалы прорыва (Breakout Scale) от 1 (нижний) до 6 (высший), мы можем отнести эту операцию к третьей категории: она характеризовалась публикацией контента на нескольких платформах, причем имелись свидетельства взаимодействия с ней реальных людей в различных контекстах (прежде всего «информационных партнеров»), однако до уровня вирусности, которого достигали мифы о российских «троллях», дело не дошло.
В рамках мер по противодействию этой сети мы поделились индикаторами с соответствующими ведомствами и платформами распространения.
Домены, связанные с этой деятельностью
- Euronewstop.co.uk
- Newstop.africa
- Britishtalks.com
- Britishattitudes.com
Автор
Полный текст статьи читайте на OpenAI
