Cisco добавила Claude Mythos от Anthropic в AI Defense для ред-тиминга
- Cisco встроит Claude Mythos в AI Defense для разработки сценариев атак на ИИ-приложения и агентов клиентов.
- Первыми инструмент получат избранные корпоративные клиенты; сроки запуска не названы.
- Тесты привязываются к человеку, записываются для аудита и ограничены зарегистрированными системами клиента.
Почему это важно: Компании хотят проверять ИИ-агентов до запуска в работу и находить уязвимости раньше хакеров.
Cisco добавит модель Claude Mythos от Anthropic в AI Defense, чтобы планировать атаки на собственные ИИ-приложения и агентов клиентов — эта практика называется «красной командой» (red teaming). Клиенты не получат открытого доступа к промптам, каждый тест будет привязан к конкретному человеку, а первыми инструмент получат избранные корпоративные клиенты.
Cisco добавит Claude Mythos от Anthropic в AI Defense, объявила компания на мероприятии Cisco Live в Мельбурне. AI Defense атакует собственные ИИ-системы компаний, чтобы найти уязвимости раньше хакеров. Первыми Mythos получат избранные корпоративные клиенты; сроки пока не названы.
Mythos будет планировать тесты и придумывать сценарии атак на ИИ-приложения и агентов — эта практика известна как red teaming. В июле исследователи Cisco с его помощью заставили 15 чат-ботов обойти защитные ограничения.
Клиенты не смогут напрямую вводить промпты для Mythos. Модель выполняет только заданную задачу и работает лишь с системами, которые принадлежат клиенту и зарегистрированы им для тестирования.
Каждый тест привязан к конкретному человеку, записывается для аудита и может быть остановлен в любой момент. Mythos не может сканировать интернет за пределами этих систем, сообщила Cisco в блоге.
»Компании всё активнее встраивают ИИ-агентов в свои ключевые процессы и хотят тщательно тестировать этих агентов, прежде чем запускать их в работу», — заявил Майкл Мур, руководитель направления кибербезопасности Anthropic.
Компании в сфере безопасности выстраиваются в очередь, чтобы встроить Mythos в свои продукты. В сентябре Palo Alto Networks запустила непрерывное тестирование на базе Mythos и киберсетевой модели OpenAI. IBM в понедельник заявила, что планирует добавить Mythos в свой инструмент Concert Protect в начале 2027 года.
Это устраивает Anthropic, которая встраивает Mythos в продукты партнёров, а не раздаёт саму модель. В понедельник компания выпустила Mythos 5.2 — по-прежнему только для проверенных организаций. Строгий контроль важен: в апреле посторонняя группа получила доступ к Mythos через учётные данные подрядчика.
Cisco также обновила инструменты Splunk, которые отслеживают расходы на ИИ-агентов и оценивают качество их работы. Инструмент для контроля затрат Tokenomics станет доступен в закрытой предварительной версии в декабре.
