Темы



Запуск службы поиска уязвимостей в программном обеспечении с открытым исходным кодом, к которой можно подключиться по желанию

Коротко сгенерировано ИИ по тексту статьи
  • Anthropic запускает OSS Scanner: присоединившиеся проекты смогут бесплатно получать периодическое сканирование открытого кода мощными моделями.
  • Эксперты оценили 97 критических и высокосерьёзных уязвимостей в 48 проектах; 85 (88%) соответствовали требованиям процедуры CVD.
  • Для участия сопровождающие проектов должны отправить PR в GitHub; заявки рассматривают отдельно по критериям влияния на инфраструктуру и безопасность пользователей.

Почему это важно: Быстрое обнаружение и устранение уязвимостей помогает проектам защищать ПО от атакующих, которые тоже ищут и используют слабые места.

6d4a0d28992ade92d6fa63646fd9c9d318245c6c-2400x1260.jpg

Мы запускаем OSS Scanner — сканер уязвимостей для экосистемы открытого исходного кода, которым можно воспользоваться по желанию. При его создании мы опирались на опыт использования Claude для поиска уязвимостей в рамках Project Glasswing. Присоединившиеся проекты будут бесплатно проходить тщательное периодическое сканирование с помощью наших самых мощных моделей.

Языковые модели быстро совершенствуются в способности обнаруживать уязвимости, о чём мы подробно рассказывали в этом блоге. На одном из академических бенчмарков для поиска уязвимостей, CyberGym, доля уязвимостей, обнаруживаемых большими языковыми моделями, выросла с менее чем 20% в начале прошлого года до более чем 85% в этом году. В результате сопровождающие проекты с открытым исходным кодом вместо потока низкокачественных сообщений от больших языковых моделей теперь получают качественные отчёты об ошибках.

Последние шесть месяцев мы использовали наши новейшие модели для поиска уязвимостей в некоторых важнейших программных проектах мира. Мы обнаружили более 29 000 потенциальных уязвимостей, но смогли вручную проверить и классифицировать лишь около 6 000 из них. Это значительное число, однако возможности людей проверять эти результаты по-прежнему остаются узким местом.

Мы работаем над тем, чтобы масштабировать раскрытие информации об уязвимостях. Тем временем сопровождающие всё чаще, получив от нас первые отчёты, просят прислать одним пакетом все непроверенные сообщения с предлагаемыми исправлениями: на сегодняшний день мы отправили сопровождающим почти 5 000 отчётов — после того как они попросили прислать всё, что у нас есть, даже если результаты ещё не проверены. Поскольку эксплойты теперь можно создавать за считаные минуты, проекты, способные быстрее находить и устранять уязвимости, лучше защищают своё ПО от атакующих, которые одновременно пытаются обнаружить и использовать те же слабые места.

Мы продолжим вручную сообщать об уязвимостях, подтверждённых специалистами, в рамках действующего процесса координированного раскрытия уязвимостей (CVD) — особенно проектам, которым не хватает ресурсов для самостоятельной проверки сообщений. Но теперь мы также предлагаем ускоренный вариант для тех, кто хочет получать отчёты об уязвимостях сразу после их подготовки.

Наш сканер уязвимостей

Вдохновившись тем, как OSS-Fuzz от Google — проект, который ищет уязвимости в ПО с открытым исходным кодом с помощью фаззеров, — помогает экосистеме открытого исходного кода, мы запускаем OSS Scanner. Он будет искать уязвимости в коде с открытым исходным кодом с помощью наших самых мощных языковых моделей. Наш продукт для широкого круга пользователей Claude Security сканирует код и помогает исправлять его, уделяя особое внимание защите систем предприятий. В свою очередь, OSS Scanner бесплатно проводит аудит безопасности проектов с открытым исходным кодом.

Результаты работы этого сканера уязвимостей, доступного по желанию, будут полностью генерироваться моделями — без проверки и классификации специалистами. Это позволит проводить сканирование чаще и быстрее, но означает, что отчёты могут быть ошибочными или недостоверными. Их будут готовить наши самые мощные модели, включая Claude Mythos, чтобы дать проектам с открытым исходным кодом максимальное преимущество в защите.

Последние несколько недель мы проверяли этот процесс совместно с десятками проектов с открытым исходным кодом. В первых сообщениях было несколько сотен отчётов об ошибках, в том числе об уязвимостях, которые мы смогли объединить в цепочки для создания эксплойтов удалённого выполнения кода без аутентификации, затрагивающих эти проекты. Каждый отчёт содержит готовый к запуску пример, описание уязвимости (в том числе, если это возможно, результаты бисекции, позволяющей определить, когда появилась ошибка) и предлагаемый патч, если он доступен. Теперь мы открываем этот сервис для большего числа проектов с открытым исходным кодом.

Вот некоторые отзывы, которые мы получили, тестируя ранние версии OSS Scanner и необработанные результаты работы моделей:

  • «Необычно высокая доля уязвимостей, обнаруженных OSS Scanner, оказалась связана с дефектами PostgreSQL. В нескольких отчётах были предложены исправления, которые можно использовать почти без изменений, а благодаря ускоренному доступу мы успели устранить самые новые проблемы до выхода релиза GA». — Ноа Миш, PostgreSQL
  • «Первые отчёты ИИ, которые мы получали примерно 18 месяцев назад, ещё до Project Glasswing, были ужасающими. Отчёты Anthropic, включая необработанные результаты работы моделей, оказались не хуже, а иногда и лучше тех, что мы получаем от людей. Особенно когда к отчёту прилагается настоящий эксплойт: для инженера это практически готовая работа, ведь результат можно сразу проверить». — Антон Арапов, OpenSSL Corporation
  • «Мы сочли эти отчёты весьма полезными: из 74 полученных нами сообщений все, кроме двух, оказались достоверными, а пять привели к публикации CVE. Благодаря приложенным патчам отчёты легко встроились в наш привычный процесс проверки и исправления проблем. Будем рады получить ещё». — Тодд Оуска, wolfSSL
  • «Отчёты об ошибках были подробными и понятными; в них хорошо учитывалась сложная модель разрешений HotCRP, а ошибки были грамотно расставлены по приоритетам». — Эдди Колер, HotCRP

Чтобы проверить раннюю версию OSS Scanner, мы попросили экспертов по тестированию на проникновение, которые проверяют результаты нашей процедуры CVD, оценить 97 критических уязвимостей и уязвимостей высокой степени серьёзности, обнаруженных сканером в 48 проектах. Из них 85 (88%) соответствовали требованиям нашей процедуры CVD. Из оставшихся 12 случаев 11 оказались реальными проблемами, но дублировали известные уязвимости или другие результаты сканирования; недостоверным оказался только один случай — то есть одно «ложное срабатывание». С тех пор мы направили сопровождающим многие из этих сообщений, и они редко сообщали, что обнаруженная проблема высокой или критической степени серьёзности недостоверна, что согласуется с результатами нашей предыдущей работы с открытым исходным кодом. Некоторые отмечали, что степень серьёзности могла быть завышена или что сканер неверно понял модель угроз проекта. Мы не можем гарантировать безошибочную работу сканера, но продолжим совершенствовать систему, учитывая отзывы сопровождающих и улучшения моделей.

Как начать работу

Основные сопровождающие подходящих проектов могут зарегистрироваться, отправив PR в этот репозиторий на GitHub по стандартному шаблону проекта. Дополнительные инструкции доступны в расширенном разделе часто задаваемых вопросов. Критерии отбора проектов аналогичны тем, которыми руководствуется OSS-Fuzz: вкратце, проекты должны «оказывать критически важное влияние на инфраструктуру и безопасность пользователей». Решения мы будем принимать в каждом случае отдельно.

Подходит вам OSS Scanner или нет, наша новая программа Cyber Verification Program предоставляет квалифицированным специалистам по безопасности доступ к расширенным возможностям в области кибербезопасности и классификаторам с менее строгими ограничениями. Claude for OSS предлагает бесплатные подписки Claude Max 20x, которые помогут устранять уязвимости и повышать безопасность проектов с открытым исходным кодом.

Подпишитесь на рассылку Frontier Red Team

Получайте новости о наших последних исследованиях и результатах работы красной команды.

Полный текст статьи читайте на Anthropic

Об этом также пишут