Google: злоумышленники с помощью одного лишь ИИ превращают патчи в эксплойты
- GTIG обнаружила exploit_agent на открытом промежуточном сервере: он сравнивал код до и после патчей, создавал и запускал эксплойты.
- Через четыре дня после раскрытия уязвимостей PaperCut злоумышленник, по всей видимости, применил ИИ в кампании против сотен организаций.
- GTIG зафиксировала CAIRN против целей, включая аэрокосмическую отрасль США; мошеннические списания за облачные и ИИ-сервисы иногда превышали $100 тыс. за день.
Почему это важно: GTIG считает весьма вероятным, что злоумышленники продолжат применять ИИ-фреймворки в кампаниях против организаций по всему миру.

Злоумышленники использовали ИИ, чтобы находить уязвимости в программном обеспечении и эксплуатировать их без участия человека, сообщила Google в понедельник. По словам компании, она столкнулась с этим впервые. Вывод содержится в последнем отчёте об ИИ-угрозах от Google Threat Intelligence Group (GTIG) и Mandiant.
GTIG обнаружила инструмент, который она называет exploit_agent, на открытом промежуточном сервере. Он работает с несколькими передовыми и локально запускаемыми моделями ИИ. Инструмент сравнивает код популярного веб-ПО до и после каждого патча и выявляет вероятные уязвимости. Затем он пишет эксплойты и самостоятельно их запускает.
В предыдущем выпуске ежеквартального отчёта, два месяца назад, GTIG заявляла, что не видела применения полностью автономных цепочек атак против реальных целей, сообщает SiliconANGLE.
На сервере также хранились данные, похищенные у жертв. Там были скрипты для подбора паролей методом перебора, установки веб-шеллов и удаления веб-шеллов конкурирующих злоумышленников. Конфигурационный файл содержал комментарии на русском языке. Судя по данным жертв, оператор атаковал французские сайты СМИ, индустрии развлечений и образования, сообщила GTIG.
От патча к эксплойту
Исправленные уязвимости могут быть более лёгкой целью для ИИ, чем неизвестные, отметила Google. Злоумышленники могут изучать ограниченный набор материалов: старый и новый код, примечания к выпуску и публичные исследования.
Компания привела в пример две уязвимости в серверах печати PaperCut, которые злоумышленники объединили в цепочку в конце августа. Исследователи и компания по кибербезопасности Huntress с помощью ИИ создали работающие эксплойты в течение суток после раскрытия. Через четыре дня после раскрытия злоумышленник, по всей видимости, использовал ИИ для проведения кампании против сотен организаций, по данным GreyNoise.
После того как в октябре были исправлены уязвимости в PHP, появились сотни нерабочих эксплойтов-концептов. Многие из них, вероятно, создал ИИ, говорится в отчёте.
Фреймворки для атак в реальных условиях
Несколько группировок уже применяют ИИ-фреймворки для взлома с открытым исходным кодом в реальных атаках, сообщила GTIG. Среди них — финансово мотивированные банды и предполагаемые китайские шпионские группы. Компания зафиксировала использование фреймворка CAIRN против целей, в том числе в аэрокосмической отрасли США.
Эти инструменты «шумные» и оставляют следы, которые облегчают их обнаружение, отметила Google. Компания ожидает, что по мере совершенствования инструментов злоумышленники будут меньше полагаться на людей и станут действовать скрытнее.
«Мы считаем весьма вероятным, что злоумышленники продолжат использовать эти фреймворки в кампаниях против организаций по всему миру», — написала GTIG.
В отчёте также описываются злоумышленники, которые крадут учётные данные облачных и ИИ-сервисов, чтобы запускать модели за счёт аккаунтов жертв. В некоторых случаях мошеннические списания превышали 100 000 долларов за один день, говорится в документе. В одной из атак использовалась уязвимость в шлюзе LiteLLM. Предположительно северокорейская группировка изменяла файлы настроек Claude Code внутри компаний так, что при каждом запуске загружался бэкдор. Google сообщает, что заблокировала аккаунты и ресурсы, связанные со злоупотреблением её моделями Gemini.
Об этом также пишут
- VentureBeat.ru Google: злоумышленники создали ИИ-фреймворк, который превращает программные патчи в эксплойты без участия человека 17.11.2026 00:58
