Адаптивная безопасность приложений в эпоху ИИ: как Cloudflare объединяет код, трафик и аналитику, чтобы останавливать атаки29.09.2026 16:00

В июле ИИ-агенты, тестировавшие новые модели кибербезопасности, скомпрометировали часть инфраструктуры OpenAI и рабочую среду Hugging Face.

Мы только что стали свидетелями одной из первых успешных кибератак с применением ИИ. Получив задачу, агенты проигнорировали существующие защитные ограничения и самостоятельно обнаружили ранее неизвестные уязвимости, восстановили раскрытые учетные данные, перемещались между облачными средами и координировали свои действия по созданным ими каналам связи.

Скорость финальной компрометации поражает. Менее чем за 13 часов агенты перешли от выполнения кода на рабочем узле Hugging Face к получению прав администратора в нескольких кластерах. Но инцидент назревал гораздо дольше. Специалисты, расследовавшие его, обнаружили признаки активности, уходящие корнями в май (агенты создали несанкционированную доску сообщений), июнь (сканирование внутренней сети) и начало июля. Связь между этими событиями удалось установить только 20 июля.

Главный вывод здесь не в том, что ИИ-агенты используют уязвимости. В этом нет ничего нового — злоумышленники-люди делают то же самое. Новизна в том, что агенты могут действовать настойчиво, одновременно проверять несколько путей, обмениваться находками и объединять уязвимости, учетные данные и разрешения в сложные атаки.

Этот инцидент также показывает, почему защита приложений не может полагаться на отдельные инструменты. Например, ограничения сети удалось обойти с помощью подключенных к Интернету сервисов; для несанкционированных действий использовались действительные учетные данные. Пересоздание Artifactory закрыло один путь атаки, но агенты нашли другой. Важный вывод заключается в том, что отдельные оповещения указывали на разные фрагменты активности, но не раскрывали кампанию целиком. OpenAI пришла к аналогичному выводу в своем отчете: организациям нужны взаимодополняющие и независимые меры контроля для предотвращения, обнаружения и смягчения последствий атак, постоянная проверка границ безопасности, а также более быстрые механизмы сопоставления и сдерживания подозрительного поведения.

Мы решаем эту задачу, объединяя защиту приложений вокруг четырех направлений, которые слишком часто остаются разрозненными: выявления значимых рисков, управления действиями людей и агентов, защиты приложений во время работы и использования результатов каждого расследования для усиления защиты. Cloudflare может предложить такую систему благодаря широкому портфелю решений в области безопасности и видимости значительной части интернет-трафика.

Наряду с этой системой мы объединяем существующие решения Cloudflare с новыми возможностями на каждом этапе. Среди них — использование больших языковых моделей (LLM) для тестирования на проникновение нашего межсетевого экрана веб-приложений (WAF), расширение доступа всех клиентов к аналитике угроз и новая функция автоматизации развертывания позитивной модели безопасности.

Что изменилось

Ландшафт безопасности меняется. Вот какие новые тенденции мы наблюдаем:

• Способ создания программного обеспечения кардинально изменился. Разработка с помощью ИИ позволяет инженерам быстрее создавать и развертывать ПО за пределами традиционных процессов разработки. Такая скорость означает больше кода и больше возможностей для попадания уязвимостей в рабочую среду.
• Риски, связанные с составом программного обеспечения, никуда не исчезли: приложения зависят от длинных цепочек библиотек с открытым исходным кодом, пакетов и компонентов операционных систем, которым изначально доверяют и которые сложно проверить любой команде. Новое заключается в том, что теперь ИИ подключает библиотеки, о существовании которых мы можем не знать.
• Меняются методы и тактики. LLM могут объединять уязвимости и в реальном времени использовать обратную связь, чтобы изменять полезную нагрузку, обходить средства защиты и самостоятельно принимать решения. Они способны работать непрерывно и на машинной скорости. Быстрое исправление уязвимостей по-прежнему важно, но одних исправлений недостаточно. Злоумышленники всегда будут действовать быстрее, чем вы успеете обновить свои системы.
• Трафик агентов. Раньше автоматизация была синонимом вредоносной активности. Сегодня запрос, созданный агентом или ботом, может быть результатом вредоносной автоматизации, работой поискового робота или покупкой товара агентом от имени клиента.
• Скомпрометированные серверы, резидентные прокси, устройства Интернета вещей и облачные ресурсы позволяют атакам быстро перемещаться по инфраструктуре и между учетными записями. Скоординированная атака может задействовать множество устройств, из-за чего ее сложно распознать как единую кампанию.

Расширяются и задачи защиты приложений. Теперь она должна решать три взаимосвязанные проблемы: защищать обычные приложения от злоумышленников, использующих ИИ, управлять легитимными и вредоносными агентами, а также защищать приложения, включающие модели, агентов, инструменты и данные.

Единая система защиты приложений

В эпоху ИИ защита приложений должна работать как непрерывная система, а не как набор мер, которые команды обновляют после появления каждой новой уязвимости. Чтобы защищать приложения в эпоху ИИ, необходимо работать в нескольких направлениях, которые мы объединили в четыре этапа:

1. Выявление и приоритизация рисков
2. Управление доступом и поведением агентов
3. Защита приложений во время работы
4. Расследование, реагирование и обучение

По отдельности ни одно из этих направлений не является новым. Новизна — в их объединении, благодаря которому результаты обнаружения, сигналы во время работы и выводы расследований постоянно совершенствуют последующие меры защиты.

Cloudflare выстраивает возможности защиты приложений вокруг системы из четырех этапов.

Более 20% веб-сайтов используют сеть Cloudflare, что позволяет нам видеть инфраструктуру атак, изменения полезной нагрузки, новые методы и скоординированные кампании в масштабе, недоступном большинству организаций. То, что кажется отдельными случаями с точки зрения одного приложения, может стать очевидным в масштабах нашей сети. Сочетание глобальной аналитики угроз, контекста конкретного приложения и защиты непосредственно в потоке трафика обеспечивает работу каждого этапа этой системы. Контекст приложения включает сведения о развернутом коде, открытых конечных точках, нормальном трафике, действующих учетных записях и уже включенных мерах защиты. Поскольку Cloudflare работает непосредственно в потоке трафика, мы можем сразу превращать эти данные в средства защиты.

Cloudflare — адаптивная плоскость управления безопасностью приложений, API и агентов. Ниже рассказываем о запусках сегодняшнего дня, которые помогут продвинуться на каждом этапе обеспечения безопасности.

Выявление и приоритизация рисков

Команды по безопасности не испытывают недостатка в результатах проверок. Им сложно определить, какие из них свидетельствуют о непосредственном риске. Полезная система обнаружения должна связывать уязвимости с реальными условиями эксплуатации, в том числе показывать, можно ли вообще добраться до уязвимости, скрытой в вашем стеке. Мы выделяем три основные области, на которые стоит обратить внимание: риски, связанные с составом программного обеспечения, собственный код и тестирование на проникновение во время работы приложения.

Понимание рисков, связанных с составом программного обеспечения

Приложения наследуют риски от библиотек с открытым исходным кодом, пакетов, компонентов операционных систем и сервисов, от которых они зависят. Все это составляет цепочку поставок вашего приложения. Уязвимость в пакете сама по себе не дает команде понять, развернут ли затронутый компонент, доступен ли он и открыт ли для вредоносного трафика. ПО с открытым исходным кодом — главный приоритет в вопросе рисков цепочки поставок, и Cloudflare входит в Chainguard Athena — отраслевую коалицию, цель которой — защищать ПО с открытым исходным кодом от атак с применением ИИ.

Проверка собственного кода

Для проверки кода есть два варианта: воспользоваться управляемым сервисом или развить собственную экспертизу и проводить проверку самостоятельно.

Недавно Cloudflare объявила о раннем доступе к сервису «Обнаружение и устранение уязвимостей», который использует передовые модели для выявления уязвимостей конкретных приложений и развертывания средств защиты WAF, блокирующих целевые эксплойты на время исправления кода инженерами. Ключевую роль играет приоритизация. Cloudflare связывает результаты проверки исходного кода с данными о производственном трафике и сигналами безопасности. Мы можем определить, активен ли затронутый маршрут и какой объем трафика он получает.

Тестирование приложения на проникновение во время работы

Защитники также могут использовать те же возможности, что и злоумышленники. Клиенты могут создать собственную среду для тестирования на проникновение на базе LLM, чтобы искать слабые места, проверять результаты и выяснять, уязвимы ли их приложения. Обнаружение становится непрерывным, а не периодическим процессом. В Cloudflare мы занимаемся этим с момента выпуска Claude Mythos от Anthropic и поделились полученным опытом.

Уязвимость, глубоко скрытая в коде, сложнее для эксплуатации, если к ней нельзя обратиться извне. Наша команда аналитиков безопасности уже использовала тестирование на проникновение с помощью LLM, чтобы проверять приложения клиентов и собственные механизмы обнаружения во время работы, а затем улучшать обнаружение для всех клиентов на основе полученных результатов. Сейчас мы разрабатываем Adaptive Security — инструмент самообслуживания, который будет периодически проверять выбранные URL-адреса за Cloudflare на проникновение. Агенты на базе LLM будут выявлять доступные и эксплуатируемые уязвимости раньше злоумышленников.

Управление доступом и поведением агентов

Трафик агентов возникает на стыке автоматизации и действий человека: люди делегируют задачи, а программное обеспечение их выполняет. Это меняет подход к принятию решений о доступе. Теперь недостаточно просто обнаружить автоматизацию. Для каждого взаимодействия владельцам приложений нужно ответить на два вопроса: действительно ли этот субъект тот, за кого себя выдает, и можно ли доверять этому взаимодействию?

Ответить на эти вопросы бывает непросто. Известный агент с долгой историей легитимной активности может пользоваться высоким доверием, но необычное действие все равно способно создать непосредственный риск. Неизвестный агент может быть просто новым — отсутствие истории не обязательно означает злой умысел. Подход Cloudflare заключается в раздельной оценке доверия и риска. Это дает владельцам приложений больше контроля, чем единый показатель бота или решение «разрешить либо заблокировать», и более эффективные инструменты для быстрой адаптации к изменениям.

Установление личности и доверия

Доверие накапливается со временем, а риск оценивается при каждом взаимодействии.

Botbase — это каталог известных автоматизированных субъектов, зарегистрированных в Cloudflare. Регистрация позволяет легитимным ботам и агентам сообщить, кто они, а владельцы приложений сохраняют контроль над тем, могут ли эти агенты обращаться к их сайтам и на каких условиях. Cloudflare также упрощает регистрацию для небольших и пользовательских агентов, создавая слой проверенной идентификации для всего трафика агентов, а не только для крупных платформ.

Одной идентификации недостаточно, чтобы установить доверие. Cloudflare может оценить, встречался ли нам этот субъект раньше, было ли его поведение в прошлом легитимным и соответствует ли текущая активность прежней истории. Это позволяет отличить известного агента, действующего как обычно, от того же агента, который внезапно меняет привычные схемы запросов, местоположение, идентичность или поведение при транзакциях.

Анализ поведения агентов на протяжении всего пути взаимодействия

Precursor добавляет сигналы на стороне клиента и на уровне сеанса, помогающие отличать человеческое поведение от автоматизированного: например, учитывать темп набора текста, движения мыши, схемы навигации и последовательности действий. Если агент проходит процесс оформления заказа за две секунды, пропуская этапы просмотра и сравнения, которые выполнил бы человек, сеанс выдает его природу. Эти сигналы помогают определить, соответствует ли поведение на протяжении сеанса взаимодействию с человеком или автоматизации, и дают владельцам приложений более ясное представление об управляемом ими трафике.

Управление доступом и адаптация

Владельцы приложений могут блокировать трафик ИИ-краулеров и определять, какая активность разрешена для их ресурса (например, поиск, обучение и т. д.). Adaptive Intelligence объединяет сетевые сигналы, сигналы со стороны клиента, исторические данные и сигналы поведенческой проверки в вероятностной модели, которую можно обновлять по мере того, как злоумышленники меняют свои методы. Данные о результатах для клиентов, включая возвратные платежи и успешно проведенные легитимные транзакции, могут поступать обратно в систему и улучшать будущие решения.

В результате формируется постоянно обновляемая оценка каждого субъекта и взаимодействия. Владельцы приложений могут поощрять полезную автоматизацию от известных агентов и применять более строгие меры контроля, когда идентичность, история и текущее поведение указывают на повышенный риск.

Защита приложений во время работы

Обратный прокси Cloudflare защищает приложения во время работы, фильтруя трафик до того, как он достигнет исходного сервера. В эпоху ИИ формируется новый многоуровневый подход, который позволяет эффективнее фильтровать вредоносные запросы:

1. Применение позитивной модели безопасности
2. Обнаружение атак и выявление тактик и методов LLM
3. Защита бизнес-логики
4. Развертывание аналитики угроз в режиме реального времени

Обнаружение угроз во время работы основано на многоуровневом подходе, который сочетает традиционные механизмы обнаружения по сигнатурам и более передовые возможности машинного обучения.

Применение позитивной модели безопасности

Можно значительно сократить поверхность атаки, определив, как выглядит легитимный трафик, разрешая соответствующие запросы и блокируя все остальные. Сегодня мы объявляем о запуске Application Profiles — решения, которое автоматически изучает структуру вашего веб-приложения или API и обнаруживает несоответствующие запросы. Application Profiles автоматизирует процесс обучения и добавляет уровень интерпретации. На основе изученного профиля мы можем понять бизнес-логику различных конечных точек и параметров запросов, а также помочь определить, какие конечные точки требуют более тщательной проверки и внимания.

Обнаружение атак и выявление тактик и методов LLM

Традиционные WAF созданы для применения сложных правил, выявляющих распространенные уязвимости и уязвимости CVE, а также вредоносные полезные нагрузки. До появления ИИ между раскрытием новых уязвимостей проходили месяцы или дни. Теперь все иначе: мы видим, что уязвимости начинают использовать еще до их раскрытия, поэтому времени на установку исправлений почти не остается.

Для обнаружения известных эксплойтов можно использовать разные инструменты, в том числе:

• Управляемые правила, усиленные передовыми моделями. Мы сотрудничаем с ведущими поставщиками моделей и используем передовые модели для проверки устойчивости к атакам. С помощью новейших моделей мы протестировали WAF на проникновение, чтобы обнаружить способы обхода защиты и уязвимости. Все клиенты автоматически получают пользу от постоянных улучшений.
• Обнаружение с помощью машинного обучения. Сигнатуры отлично подходят для высокоточного обнаружения атак, но машинное обучение позволяет остановить атаки еще до того, как информация о них будет обнаружена и раскрыта. Attack Score выявляет изменения атак и методы обхода защиты, которые часто используют LLM. Attack Score доступен всем клиентам Cloudflare.
• AI Security for Applications. Чат-боты и доступные через Интернет LLM подвержены новому классу атак, например внедрению промптов и раскрытию конфиденциальных данных. Вы можете защитить трафик генеративного ИИ, развернув средства контроля и механизмы обнаружения угроз, разработанные для противодействия таким атакам.

Защита бизнес-логики

Злоумышленники по-прежнему могут создавать легитимные запросы и злоупотреблять бизнес-логикой приложения, чтобы получить преимущество. Например, злоумышленник многократно использует действительный процесс сброса пароля, чтобы захватить учетные записи. Инструменты обнаружения мошенничества, в том числе средства выявления захвата учетных записей и утекших учетных данных, помогают предотвращать злоупотребления, при которых запрос выглядит легитимным, но преследует злонамеренную цель.

Обнаружение угроз с использованием оперативной аналитики

Еще в июне мы запустили непрерывное обнаружение угроз на основе наших потоков аналитики угроз. Клиенты Cloudforce One могут развертывать средства защиты, блокирующие запросы из скомпрометированной инфраструктуры. Теперь мы также расширяем доступ к Threat Events Platform от Cloudforce One — нашему основному сервису аналитики угроз — и предоставляем его всем клиентам Cloudflare бесплатно.

Расследование, реагирование и обучение

Инцидент с OpenAI и Hugging Face начался не с финальной 13-часовой компрометации. Активность продолжалась с мая по июль, а среди признаков были несанкционированная доска сообщений, сканирование внутренней сети и перемещения между средами. Каждый случай по отдельности показывал лишь часть происходящего. Вместе они указывали на развивающийся взлом. Поэтому центрам мониторинга безопасности необходимо выявлять последовательности действий, ведущие к компрометации, а не оценивать оповещения по отдельности.

Это непростая задача для команд по безопасности, которым и без того приходится защищать обширную поверхность атаки, располагая ограниченными ресурсами. Оповещения поступают из разных инструментов и наборов данных, и аналитикам приходится выяснять, какие события связаны между собой, собирать доказательства и определять, усиливается ли атака.

Cloudflare создает платформу для автоматизации операций безопасности. Детерминированные рабочие процессы устанавливают контекст клиента и расследования, используя историю срабатываний, базовые показатели трафика, результаты применения мер защиты и наблюдения за сетью. Агент обнаружения ищет аномалии и взаимосвязи в авторизованных наборах данных. Обнаружив подозрительную активность, специализированные агенты анализируют доказательства вместе с историей клиента и аналитикой угроз, помогая специалистам связать отдельные события с более масштабными кампаниями. Затем система может предложить меры снижения рисков — например, ограничение частоты запросов, изменения правил WAF или защиты от DDoS-атак — для утверждения человеком.

Мы разрабатываем эти возможности совместно с командой Managed Defense от Cloudflare. Ее аналитики помогают нам проверять, как собираются и сопоставляются доказательства и как на их основе формируются рекомендации. Со временем мы планируем сделать эти возможности доступными более широкому кругу клиентов и будем рассказывать о ходе работы.

Система автономного обеспечения безопасности: три этапа работы агентов, которые совместно выявляют аномалии, расследуют их причины и предлагают меры устранения.

Сочетание сервисов обратного и прямого прокси Cloudflare делает такое сопоставление особенно эффективным. Сигналы защиты приложений могут указывать на попытки атаковать общедоступное приложение, а Cloudflare One — выявлять последующую активность в корпоративном трафике. Сопоставление этих наборов данных может связать внешнюю атаку с подозрительным доступом, внутренним сканированием или возможным горизонтальным перемещением, превращая отдельные оповещения в хронологию взлома и помогая аналитикам вмешаться до того, как атака разовьется дальше.

Что дальше

ИИ меняет способы создания программного обеспечения, ход атак и то, как пользователи взаимодействуют с приложениями. Команды по безопасности больше не могут управлять обнаружением, доступом, защитой во время работы и реагированием как отдельными направлениями.

Cloudflare объединяет эти возможности в систему с замкнутым циклом, которая опирается на глобальную аналитику, контекст конкретного приложения и защиту непосредственно в потоке трафика. Результаты обнаружения уязвимостей могут усилить защиту во время работы, активность во время работы — стать основой для расследования, а каждое решение аналитика — улучшить будущие механизмы обнаружения и меры защиты.

Ни одна организация не может предвидеть каждый новый метод атаки. Цель — создать систему безопасности, которая учится на каждой попытке, быстрее реагирует и со временем становится эффективнее. Возможности, о запуске которых мы объявляем сегодня, — следующий шаг к адаптивной модели защиты приложений.

© Cloudflare Blog