Операция «VAGue Focus»: Социальная инженерия и влияние
OpenAI заблокировала учетные записи, использовавшие ИИ для социальной инженерии, исследований в области слежки и операций влияния, направленных против критиков.
Этот тематический анализ был изначально опубликован в отчете OpenAI за июнь 2025 года.
Субъект
Мы заблокировали небольшую сеть учетных записей ChatGPT, которые использовали наши модели для генерации постов в социальных сетях, анализа наборов данных, а также перевода писем и сообщений с китайского на английский язык, напоминавших попытки социальной инженерии. Запросы к нашим моделям отправлялись на китайском языке, и активность в основном приходилась на рабочие часы в материковой части Китая.
Они создавали сообщения, которые якобы исходили от сотрудников трех геополитически ориентированных организаций: «Focus Lens News», «BrightWave Media Europe» и «Visionary Advisory Group» (VAG). Кроме того, учетные записи ChatGPT генерировали текст, совпадавший с публикациями и биографиями в аккаунтах X, связанных с этими тремя организациями. Злоумышленники отдельно описывали эти структуры как прикрытия для сбора и анализа разведданных. Исходя из этих названий, мы назвали данную операцию «VAGue Focus».
Поведение
В рамках операции ChatGPT использовался для поддержки четырех основных направлений работы. Во-первых, учетные записи преимущественно применяли наши модели для создания постов в социальных сетях и биографий для онлайн-персонажей, которые выглядели как часть скрытой операции влияния. Посты распространялись через аккаунты в X, выдававшие себя за журналистов и геополитических аналитиков.
Твит, сгенерированный этим субъектом угроз с помощью ChatGPT и опубликованный с аккаунта в X, который регулярно размещал контент данного субъекта.
Во-вторых, учетные записи дорабатывали и переводили корреспонденцию, адресованную сенатору США в связи с выдвижением кандидатуры официального лица администрации. Мы не можем независимо подтвердить, была ли отправлена какая-либо из этих корреспонденций.
В-третьих, учетные записи задавали серию базовых вопросов об инструментах атак и эксплуатации компьютерных сетей, на которые наши модели давали лишь общие объяснения об их использовании и возможностях. Эти вопросы не отличались изощренностью, свойственной киберпреступникам, описанным далее в этом отчете, что говорит о низком уровне экспертизы.
Наконец, пользователи регулярно запрашивали перевод с китайского на английский язык сообщений, которые, судя по всему, были предназначены для взаимодействия с неизвестными собеседниками и последующего извлечения у них информации. Некоторые из этих сообщений публиковались в социальных сетях в качестве ответов журналистам и исследователям. Другие напоминали личные сообщения (direct messages), которые не отображались в результатах онлайн-поиска.
Холодная рассылка с аккаунта в X, связанного с этой операцией, с публичным сообщением исследователю в X.
Результаты деятельности
Основной целью этой сети, по всей видимости, был сбор разведданных путем маскировки под профессионалов, базирующихся в Европе или Турции. В созданном и опубликованном в сети контенте операторы описывали «Focus Lens News» как независимую европейскую структуру, специализирующуюся на аналитике и репортажах. Однако операторы также заявляли, что этот бренд на самом деле служит прикрытием для содействия сбору, анализу и распространению разведывательной информации.
Согласно веб-сайту, указанному в биографиях в социальных сетях, Visionary Advisory Group находится в Турции и специализируется на профессиональных геополитических консалтинговых услугах. Операторы использовали наши модели для перевода с китайского на английский язык инструкций, в которых утверждалось, что VAG Group ищет информацию об экономической и финансовой политике США и готова платить по 2000 долларов в час за интервью. Они также переводили предложения об оплате секретных документов.
У сайта VAG Group есть турецкая и английская версии, и на странице «Контакты» (Contact Us) английской версии сайта в меню видны китайские иероглифы «связаться с нами» (聯絡). Это был единственный китайский текст на всем домене.
Снимок экрана страницы «Контакты» группы VAG, где в выпадающем меню видны китайские иероглифы «связаться с нами» (聯絡).
Часть контента этой сети напоминала маркетинговые материалы для более масштабных операций влияния. Согласно утверждениям, которые мы не можем независимо проверить, в ходе операции использовались машинное обучение, обработка естественного языка и автоматический парсинг данных для выявления влиятельных лиц и тем в социальных сетях.
Влияние
Аккаунты в социальных сетях, связанные с этой деятельностью, не получили значительного органического вовлечения в сети. Только у аккаунта Focus Lens News в X было значительное число подписчиков — 17 000; однако этот аккаунт был создан в ноябре 2014 года под другим именем, публиковал твиты в течение трех дней, а затем замолчал до середины 2024 года. Это типично для скомпрометированных и перепрофилированных учетных записей, поэтому к цифрам их подписчиков следует относиться с осторожностью.
Используя шкалу оценки влияния операций влияния (IO) Breakout Scale, мы оцениваем публичную часть этой операции как находящуюся на нижней границе Категории 2: активность на множестве платформ, но мало свидетельств того, что реальные люди подхватили или широко распространили их контент. Имеющихся доказательств недостаточно для оценки влияния социальной инженерии и другой скрытой деятельности данной операции.
Автор
Полный текст статьи читайте на OpenAI
