Операция «ScopeCreep»: разработка вредоносного ПО русскоязычными злоумышленниками01.06.2025 00:00

Этот аналитический материал был изначально опубликован в отчете OpenAI за июнь 2025 года⁠.

Мы заблокировали группу учетных записей ChatGPT, которые, судя по всему, управлялись русскоязычной группировкой киберпреступников. Этот злоумышленник использовал наши модели для помощи в разработке и доработке вредоносного ПО для Windows, отладке кода на разных языках программирования и развертывании инфраструктуры управления и контроля (C2).

Злоумышленник продемонстрировал знание внутренней архитектуры Windows и соблюдал определенные правила операционной безопасности. Учитывая, что в основе операции лежало использование троянизированного игрового инструмента «crosshair» (прицел) и скрытные методы работы, мы назвали ее «ScopeCreep».

Этот злоумышленник придерживался примечательного подхода к операционной безопасности. Они использовали временные адреса электронной почты для регистрации учетных записей ChatGPT, ограничивая каждую учетную запись ровно одной беседой, посвященной какому-то одному небольшому улучшению своего кода. После этого исходный аккаунт забрасывался, и создавался новый.

Злоумышленник распространял вредоносное ПО ScopeCreep через общедоступный репозиторий кода, который маскировался под легитимный и популярный инструмент наложения прицела (Crosshair-X) для видеоигр. Ничего не подозревающие пользователи, которые скачивали и запускали вредоносную версию, инициировали запуск загрузчика малвари в своей системе, что приводило к загрузке дополнительных вредоносных файлов из инфраструктуры злоумышленников и их выполнению.

В дальнейшем вредоносное ПО было настроено на многоэтапный процесс эскалации привилегий, закрепления в системе в скрытном режиме, отправки уведомлений злоумышленнику и кражи конфиденциальных данных с обходом средств обнаружения.

Злоумышленник использовал нашу модель для итеративной помощи в разработке вредоносного ПО, постоянно запрашивая у ChatGPT реализацию дополнительных конкретных функций. ScopeCreep продемонстрировал целый ряд методов на этапах доставки, выполнения, обхода защиты и эксфильтрации данных, в том числе:

• C2-пейлоады, разработанные для избежания обнаружения на основе сигнатур.
• Скрытное выполнение с помощью DLL-сайдлоадинга (DLL side-loading).
• Обфускация посредством кастомной упаковки с использованием Themida.
• Повышение привилегий и обход защиты.
• HTTPS поверх порта 80.
• Кража учетных данных и сеансов.
• Уведомления злоумышленников через Telegram.
• Обфускация трафика на основе прокси.

Несмотря на усилия злоумышленника по обеспечению операционной безопасности и механизмы обхода обнаружения в самом вредоносном ПО, нам удалось выявить эту активность благодаря нашему масштабируемому процессу обнаружения киберугроз. Мы связались с хостинг-провайдером кода, чтобы заблокировать вредоносный репозиторий, и забанили все учетные записи ChatGPT, связанные с этой активностью.

Взаимодействие с моделью в рамках этого кластера охватывало широкий спектр задач по разработке. Один из примеров включал фрагмент кода на Go, где злоумышленник столкнулся с проблемами при выполнении HTTPS-запроса и попросил модель отладить его. В другом случае злоумышленник запросил помощь в использовании команд PowerShell через Go для изменения настроек Защитника Windows, пытаясь найти способ программного добавления исключений в антивирус.

Типичные примеры этой деятельности можно сопоставить с фреймворком LLM ATT&CK следующим образом:

• Использование LLM для компиляции файла python310.dll таким образом, чтобы их код выполнялся при каждом запуск python.exe: разработка с помощью LLM (LLM Aided Development).
• Устранение ошибок в SSL/TLS-сертификатах, настроенных для обслуживания HTTPS-трафика на порту 80: разработка с помощью LLM (LLM Aided Development).
• Помощь модели в миграции C2-сервера на базе Flask на готовый к продакшену сервер WSGI: разработка с помощью LLM (LLM Aided Development).
• Разработка команд PowerShell на Go для изменения настроек Защитника Windows и добавления исключений в антивирус: обход средств обнаружения аномалий с помощью LLM (LLM-Enhanced Anomaly Detection Evasion).
• Отладка ошибок в коде для отправки уведомлений в контролируемый злоумышленником Telegram-канал при заражении новой жертвы: активность после компрометации при поддержке LLM (LLM-Assisted Post-Compromise Activity).

На данном этапе потенциальный ущерб от ScopeCreep удалось минимизировать благодаря быстрому реагированию и тесному сотрудничеству с партнерами по индустрии, которые оперативно заблокировали вредоносный репозиторий. Мы заблокировали учетные записи OpenAI, использовавшиеся этим злоумышленником.

По нашей оценке, этот злоумышленник использовал наши модели в попытке ускорить разработку вредоносного ПО. Парадоксально, но это также позволило нам быстро выявить и пресечь угрозу, причем на том этапе, который выглядел как ее начальная стадия.

Хотя возможности этого вредоносного ПО включают повышение привилегий, закрепление в системе, сбор учетных данных и удаленный доступ, они не являются чем-то принципиально новым. Несмотря на то, что данная малварь, вероятно, использовалась в реальных атаках, а некоторые ее образцы появлялись на VirusTotal, мы не заметили свидетельств ее масштабного распространения или широкого интереса к ней.

Автор