Новейшая модель ИИ от Anthropic устранила 500 уязвимостей нулевого дня
Компания Anthropic, занимающаяся разработкой ИИ, представила Claude Opus 4.6, и она уже активно используется в гонке вооружений в сфере безопасности.
Anthropic развернула Opus 4.6 в изолированной среде и проверила, может ли она обнаруживать ошибки в открытом исходном коде без каких-либо подсказок. Команда предоставила ей доступ к Python и инструментам анализа уязвимостей, включая классические отладчики и фаззеры, но без инструкций или специальных знаний.
Тем не менее, модель выявила более 500 ранее неизвестных уязвимостей нулевого дня, используя свои стандартные возможности, и каждая из них была подтверждена либо членом команды Anthropic, либо внешним исследователем безопасности.
Глава подразделения Frontier Red Team компании Anthropic, Логан Грэм, рассказал Axios: «Это гонка между защитниками и злоумышленниками, и мы хотим как можно быстрее предоставить инструменты в руки защитников. Модели отлично справляются с этой задачей, и мы ожидаем, что они станут еще лучше».
Обнаруженные ошибки варьировались от уязвимостей, которые могли быть использованы для сбоя системы, до более серьезных проблем, которые могли повредить память, и именно здесь защитники начинают нервничать. В своем блоге Anthropic сообщила, что Клод обнаружил уязвимость в GhostScript, популярной утилите для обработки файлов PDF и PostScript, которая могла привести к сбою.
Клод также обнаружил уязвимости переполнения буфера в OpenSC, утилите для обработки данных смарт-карт, и CGIF, инструменте для обработки файлов GIF, что является типичным примером не самых привлекательных методов, которые так любят злоумышленники.
Компания Anthropic считает, что Opus 4.6 — это крупная победа для команд безопасности, поскольку открытый исходный код лежит в основе всего, от корпоративного программного обеспечения до критической инфраструктуры, и он хронически недостаточно проверяется.
