Операция «A2Z»: многоязычная деятельность по влиянию01.10.2024 00:00

Этот тематический анализ был изначально опубликован в отчете OpenAI за октябрь 2024 года⁠.

Мы заблокировали ранее не фигурировавшую группу аккаунтов, которые использовали наш API для создания комментариев, впоследствии публиковавшихся в X и Facebook. Многие из этих комментариев восхваляли Азербайджан или защищали его ситуацию с правами человека, однако они также затрагивали широкий спектр других тем, что потенциально указывает на коммерческий характер операции. Учитывая частоту, с которой в них восхвалялся Азербайджан, и стремление использовать ИИ на нескольких этапах операции, мы назвали эту сеть «A2Z».

Подобно русскоязычной операции в Telegram, которую мы разоблачили в мае и назвали «Bad Grammar», эта операция использовала наши модели для обеспечения возможности комментирования в социальных сетях. Она задействовала ИИ для управления фальшивыми профилями в соцсетях, генерации биографий, анализа постов и комментариев, составления черновиков ответов на множестве языков и их вычитывания. Затем эти ответы публиковались в X или Facebook. Большая часть контента представляла собой короткие комментарии, но также включала стилизованные изображения. В них часто использовался стиль плакатов 1930-х годов: судя по всему, они были призваны привлекать внимание и вовлеченность, а не вводить в заблуждение. Тем не менее, типичные посты с такими стилизованными изображениями получали лишь от 0 до 5 реакций каждый.

Такое использование ИИ позволило операции управлять множеством аккаунтов в социальных сетях одновременно: мы выявили около 150 учетных записей в X и Facebook, демонстрировавших такую активность, причем подозревается существование еще большего их числа. Это также позволило операции в некоторых случаях вступать в ветки обсуждений с реальными людьми в интернете. Время от времени мы наблюдали короткие беседы между реальными людьми и фальшивыми аккаунтами, причем ответы ботов генерировались с помощью наших моделей.

Операция подобного масштаба до появления ИИ, вероятнее всего, потребовала бы крупной команды троллей со всеми сопутствующими затратами и рисками утечки информации. Тем не менее, опора этой операции на ИИ также сделала ее необычайно уязвимой для наших мер противодействия. Поскольку ИИ использовался на множестве звеньев в цепочке атак, наше пресечение разорвало множество звеньев этой цепи одновременно. После того как мы пресекли эту деятельность в начале июня, выявленные нами аккаунты в социальных сетях прекратили публикации на протяжении периодов выборов в ЕС, Великобритании и Франции. Некоторые возобновили постинг в конце августа. Небольшая часть их постов содержала признаки того, что они, вероятно, были сгенерированы ИИ. Контент, имевший такие признаки, происходил не из наших моделей.

Эта кампания генерировала короткие комментарии, сосредоточенные на широком круге политических тем. Наиболее заметными из них были похвалы в адрес правительства Азербайджана и его роли во внутренней, региональной и международной политике — например, содействие единству между странами Центральной Азии или проведение Конференции ООН по изменению климата. Аккаунты на английском и итальянском языках превозносили роль Азербайджана как поставщика энергоносителей в Европу — порой в ответ на критику ситуации с правами человека со стороны азербайджанского правительства.

Другие направления деятельности были сосредоточены на преимуществах и эволюции ИИ, финансовых рынках, экологических проблемах, криптовалютах и технологиях в целом. Один кластер был сосредоточен на Объединенных Арабских Эмиратах, изображая их как стабильное инвестиционное направление и часто противопоставляя это заявлениям о политической нестабильности в Соединенных Штатах.

Некоторые фальшивые профили концентрировались на политике в Европе или США. Идеология этой активности варьировалась от региона к региону. Например, один аккаунт в X, сфокусированный на Соединенных Штатах, выдавал себя за либерала и критиковал бывшего президента США Трампа, в то время как некоторые аккаунты в Facebook, публиковавшие записи на французском языке, критиковали президента Макрона и поддерживали партию «Национальное объединение» (RN). Иногда эта критика затрагивала внутренние проблемы, чтобы доказать, что рассматриваемая страна не должна вмешиваться в международные вопросы, включая вторжение России в Украину.

Эта операция была весьма активна в Facebook и X, насчитывая, вероятно, сотни аккаунтов. В X некоторые из них имели синюю галочку платنой верификации. Среди примерно 150 аккаунтов, выбранных нами для выборочной проверки на обеих платформах, мы не выявили ни одного со значительным числом подписчиков: наибольшее число подписчиков в X, обнаруженное нами в ходе расследования, составляло 222 человека, тогда как более типичные показатели исчислялись от полутора десятков до чуть более двадцати, а типичные посты в X получали единицы реакций. Аналогичным образом, наибольшее количество реакций на публикацию в Facebook, зафиксированное нами в ходе расследования, составило 36, а типичные показатели находились в диапазоне 0–5. Тем не менее, мы зафиксировали случаи, когда посты операции привлекали ответы от реальных людей. Они не всегда были позитивными и порой включали возражения реальных людей против фальшивых аккаунтов, однако они все же демонстрируют определенную способность привлекать аудиторию на нескольких платформах, на разных языках и по различным темам.

Используя шкалу прорыва (Breakout Scale) для оценки влияния операций влияния, которая оценивает их по шкале от 1 (низшая) до 6 (высшая), мы оцениваем данную операцию как находящуюся на верхнем пределе Категории 2 с риском перехода в Категорию 3: она характеризовалась публикациями на нескольких платформах, причем имелись свидетельства того, что реальные люди взаимодействуют с ее контентом. Тем не менее, после того как мы запретили этой операции использовать наши модели и поделились информацией с коллегами по индустрии, выявленные нами аккаунты в социальных сетях умолкли на многие недели. Таким образом, эта операция подчеркивает как возросшие возможности, которые использование ИИ дает злоумышленникам, так и повышенную уязвимость к мерам противодействия, которую влечет за собой их зависимость от ИИ-модели.

Автор