Операция «Spamouflage»: связанная с Китаем операция влияния01.05.2024 00:00

Этот анализ был изначально опубликован в отчете OpenAI за май 2024 года⁠.

Мы заблокировали небольшой круг аккаунтов, связанных с китайской операцией, известной как «Spamouflage»⁠. Компания Meta⁠ приписала эту операцию «лицам, связанным с правоохранительными органами Китая». Часть активности этой операции в социальных сетях была связана ФБР⁠ с подразделением Министерства общественной безопасности Китая.

Эта сеть была нацелена на глобальную аудиторию, особенно на представителей китайской диаспоры и критиков китайского правительства. Она в основном генерировала контент на китайском языке и, в меньшей степени, на английском, японском и корейском.

Сеть использовала наши модели для отладки кода, поиска советов по анализу социальных сетей, исследования новостей и текущих событий, а также для создания контента, который затем публиковался на форумах в блогах и в социальных сетях.

Например, в 2023 году сеть использовала наши модели для отладки кода настройки темы WordPress для веб-сайта revealscum.com. На этом веб-сайте публиковались критические материалы на китайском языке и личная информация о представителях китайской диаспоры, критиковавших китайское правительство. Сайт называл таких критиков «предателями». Сам контент не генерировался с помощью наших моделей.

Эта кампания также использовала наши модели для создания контента, который затем публиковался на платформах социальных сетей и форумах. Например, в конце 2023 года в рамках операции были созданы статьи, обвиняющие Японию в нанесении ущерба морской среде путем сброса сточных вод с электростанции «Фукусима». Мы выявили эти статьи на таких платформах, как Medium, Blogspot и ameblo.jp.

В апреле 2024 года в рамках кампании была опубликована серия комментариев на английском языке с критикой китайского диссидента Цай Ся. Мы обнаружили один аккаунт в X, опубликовавший исходный комментарий, и группу других аккаунтов, разместивших остальные комментарии в качестве ответов. Мы не заметили никаких реальных аккаунтов, отвечающих на них.

Кампания также использовала наши модели для проведения исследований по открытым источникам: например, выясняла, как подать заявку на получение аккаунта разработчика в социальных сетях, или запрашивала краткое содержание публикаций в соцсетях критиков китайского правительства.

Использование искусственного интеллекта сетью, судя по всему, составляло лишь меньшую часть от общего объема ее материалов. Например, многие аккаунты в X и Medium, которые мы определили как публикующие контент, созданный нашими моделями, размещали больший объем материалов, которые, по-видимому, были созданы вручную на английском и китайском языках (о чем свидетельствует, например, неидиоматичное использование английского языка). Они публиковали этот контент как до, так и после появления сгенерированных ИИ комментариев.

Большая часть контента, созданного в ходе этой кампании, была на китайском языке. Темы варьировались от восхваления международного сотрудничества правоохранительных органов Китая до критических материалов о нарушениях прав коренных американцев в США. В некоторых материалах правительство США и Microsoft критиковались за раскрытие деятельности китайской хакерской группы, известной как «Volt Typhoon».

Другой контент был на английском языке. В нем обычно критиковались видные критики китайского правительства, такие как актер и активист движения за свободу Тибета Ричард Гир и диссидент Цай Ся. Несколько статей, созданных в конце 2023 года на английском, японском, китайском, корейском и русском языках, обвиняли Японию в загрязнении вод Тихого океана в результате сброса с атомной электростанции «Фукусима»⁠ — это давняя тема китайских операций влияния.

Одна небольшая группа материалов была посвящена созданию позитивных комментариев на китайском языке о визите министра общественной безопасности Китая в Узбекистан. Spamouflage ранее не была замечена за освещением подобных тем; это представляет интерес в свете того факта, что ФБР связывало⁠ часть прежней активности этой операции в соцсетях с Министерством общественной безопасности Китая.

Часть активности сети отражала личные интересы операторов. Например, один из операторов использовал наши модели для поиска информации об объективах фотоаппаратов. Другой использовал наши модели для выполнения задания, которое, судя по всему, представляло собой тестовую работу для членов Коммунистической партии Китая.

Spamouflage была одной из самых тщательно изучаемых в мире операций влияния с тех пор, как о ней впервые публично рассказали в 2019 году⁠. Лишь малая доля ее материалов когда-либо привлекала внимание реальной аудитории.

Использование контента, сгенерированного ИИ, судя по всему, не изменило эту ситуацию. Ни один из блогов, статей и аккаунтов в социальных сетях, которые мы выявили в ходе расследования, не набрал большого количества реакций или подписчиков среди реальных пользователей. В некоторых случаях доступные показатели свидетельствуют о том, что единственными зрителями их постов были сотрудники нашей следственной группы.

Используя шкалу Breakout Scale⁠ для оценки эффективности операций влияния по шкале от 1 (низшая) до 6 (высшая), мы бы отнесли данную операцию к Категории 2, для которой характерна активность по публикации материалов на множестве платформ, но при этом отсутствуют свидетельства их значительного распространения людьми вне этой сети.

Мы определили следующий домен как связанный с данной кампанией.

• revealscum.com

Автор