Кибероперация: русскоязычный инструментарий вредоносного ПО
OpenAI заблокировала учетные записи, предположительно связанные с русскоязычными преступными группировками, которые использовали ИИ для создания загрузчиков вредоносного ПО, уровней обхода защиты, скриптов для кражи учетных данных и инфраструктуры C2.
Этот анализ был изначально опубликован в отчете OpenAI за октябрь 2025 г..
Злоумышленник
Мы заблокировали учетные записи ChatGPT, которые пытались использовать модель для разработки и доработки вредоносного ПО, включая троян удаленного доступа, средства для кражи учетных данных и функции обхода обнаружения. Эти учетные записи, по всей видимости, связаны с русскоязычными преступными группировками, так как мы зафиксировали публикацию доказательств их деятельности в Telegram-канале, ориентированном на таких участников. На основе нашего расследования мы полагаем, что эта деятельность была связана с русскоязычным оператором, управляющим несколькими учетными записями и использующим прокси-инфраструктуру и инфраструктуру временного хостинга.
Поведение
Этот злоумышленник использовал несколько учетных записей ChatGPT в основном для прототипирования и отладки технических компонентов, обеспечивающих постинжeктную эксплуатацию и кражу учетных данных — хорошо знакомые виды активности для субъектов угроз такого типа. Модель отклоняла прямые запросы на создание вредоносного контента, поэтому типичное использование модели оператором сводилось к получению базовых фрагментов кода, таких как преобразование скомпилированных исполняемых файлов в шелл-код, проектирование загрузчиков, выполняющихся в памяти, или синтаксический анализ учетных данных браузера, которые злоумышленник затем, вероятно, объединял в вредоносные рабочие процессы.
Злоумышленник также использовал наши модели для генерации кода обфускации и паттернов «криптеров», таких как вставка инструкций заполнения (паддинга) и мусорных последовательностей, мониторинг буфера обмена и простых вспомогательных скриптов для эксфильтрации (например, загрузчик для Telegram-бота и скрипты для архивации и отправки). Этот вывод сам по себе не является вредоносным, если только он не используется злоумышленником вне нашей платформы.
Злоумышленник использовал ChatGPT преимущественно для технических задач, таких как низкоуровневая обработка PE/Win32 API и DPAPI/AES GCM cookie, а также автоматизация Chrome DevTools/CDP. Злоумышленник направлял как высоко-, так и низкоуровневые запросы: многие промпты требовали глубоких знаний платформы Windows и итеративной отладки, в то время как другие автоматизировали рутинные задачи, такие как массовая генерация паролей и отправка скриптовых откликов на вакансии. Оператор задействовал небольшое количество аккаунтов ChatGPT и дорабатывал один и тот же код в ходе разных диалогов, что соответствует модели непрерывной разработки, а не эпизодического тестирования.
Результаты генерации (Completions)
Наши модели не использовались для запуска каких-либо инструментов и рабочих процессов злоумышленников, и мы не имеем возможности независимо проверить какую-либо активность за пределами платформы. Этот злоумышленник пытался использовать наши модели для разработки и доработки атакующего инструментария и операционных процессов, которые, судя по всему, позволяют красть учетные данные и криптовалютные активы, скрытно выполнять код и управлять скрытой инфраструктурой.
В частности, они использовали ChatGPT для генерации и доработки рабочего кода и рекомендаций по развертыванию для выполнения в оперативной памяти и загрузчиков шелл-кода; обхода UAC / SmartScreen / Mark-of-the-Web; извлечения учетных данных из браузеров / файлов cookie и создания шаблонов расшифровки app-bound; разбора кошельков LevelDB и инструментов перехвата/замены содержимого буфера обмена с функцией эксфильтрации;, а также компонентов удаленного доступа (RAT), включая видеопоток и эмуляцию ввода. В соответствии с нашими средствами защиты, наши модели отклоняли запросы, которые носили явно вредоносный характер и не имели никаких легитимных сценариев применения.
Репрезентативные примеры этой деятельности могут быть соотнесены с фреймворком LLM ATT&CK следующим образом:
Действие | Категория фреймворка LLM ATT&CK |
|---|---|
Преобразование EXE в позиционно-независимый шелл-код; создание загрузчиков в памяти (VirtualAlloc / WriteProcessMemory / удаленный поток); языковые преобразования для цепочек инструментов загрузчика. | Создание полезной нагрузки с оптимизацией под LLM (LLM-Optimized Payload Crafting) |
Вставка обфускации / уровней упаковщика, криптеров и методов, вероятно, предназначенных для изменения PE-сигнатур или маскировки полезной нагрузки от антивирусов / систем EDR. | Обход обнаружения аномалий с помощью LLM (LLM-Enhanced Anomaly Detection Evasion) |
Генерация скриптов и программного кода, вероятно, предназначенных для извлечения / расшифровки учетных данных и файлов cookie браузера, анализа файлов LevelDB криптокошельков, мониторинга или подмены содержимого буфера обмена, а также эксфильтрации через каналы ботов, такие как Telegram. | Действия после компрометации при поддержке LLM (LLM-Assisted Post-Compromise Activity) |
Создание и доработка C2-инфраструктуры и инфраструктуры туннелирования, включая обратные прокси, конфигурации SOCKS5 / OpenVPN, туннелирование удаленного рабочего стола, а также руководства по отладке / развертыванию для удаленной трансляции потока и эмуляции ввода. | Профилирование инфраструктуры под руководством LLM (LLM Guided Infrastructure Profiling) |
Влияние
Мы отключили все учетные записи, связанные с этой деятельностью, и поделились соответствующими индикаторами с партнерами по индустрии. Мы не обнаружили никаких доказательств того, что доступ к нашим моделям предоставил этим субъектам новые возможности или направления, которые они не смогли бы получить из множества общедоступных ресурсов. Наши модели отклоняли прямые запросы на эксплойты и кейлоггеры.
Автор
Полный текст статьи читайте на OpenAI
