Доверенный доступ для новой эры кибербезопасности

Scaling_our_trusted_access_program_for_c

Мы продолжаем развивать доверенный доступ, средства защиты и поддержку экосистемы, чтобы помочь специалистам по кибербезопасности защищать всех нас.

Мы расширяем нашу программу «Доверенный доступ для кибербезопасности» (TAC) на тысячи верифицированных индивидуальных специалистов и сотни команд, отвечающих за защиту критически важного программного обеспечения. Годами мы строили программу киберзащиты на принципах демократизированного доступа, итеративного развертывания и устойчивости экосистемы. Готовясь к появлению у OpenAI в ближайшие месяцы еще более мощных моделей, мы проводим тонкую настройку наших моделей специально для обеспечения сценариев кибербезопасности, начиная с сегодняшнего дня с варианта GPT‑5.4, обученного с более мягкими ограничениями в сфере кибербезопасности: GPT‑5.4‑Cyber. В этой публикации мы рассказываем о том, как, по нашему мнению, наш подход к масштабированию киберзащиты синхронно с ростом возможностей моделей будет определять тестирование и развертывание будущих релизов.

Поступательное использование ИИ ускоряет работу защитников — тех, кто отвечает за безопасность систем, данных и пользователей, — позволяя им быстрее находить и устранять проблемы в цифровой инфраструктуре, от которой зависят все. Аналогичным образом ИИ используется злоумышленниками, стремящимися причинить вред. Мы готовились к этому. Начиная с 2023 года, мы поддерживаем защитников через нашу программу грантов на кибербезопасность и усиливаем средства защиты посредством нашей методологии оценки готовности (Preparedness Framework). В том же году мы начали оценивать кибервозможности наших моделей, а в 2025 году стали включать специализированные средства киберзащиты в развертываемые модели. Ранее в этом году мы расширили поддержку защитников, запустив Codex Security для поиска и устранения уязвимостей в больших масштабах. Наш подход к непрерывному развитию возможностей основан на трех принципах:

  • Демократизированный доступ: Наша цель — сделать эти инструменты максимально доступными для широкого круга лиц, одновременно предотвращая их злонамеренное использование. Мы разрабатываем механизмы, которые позволяют избежать произвольного принятия решений о том, кто получает доступ для законного использования, а кто нет. Это означает использование четких, объективных критериев и методов — таких как строгая процедура «Знай своего клиента» (KYC) и верификация личности — для регулирования доступа к более продвинутым возможностям, а также автоматизацию этих процессов с течением времени. В конечном счете мы стремимся предоставить передовые оборонные возможности легитимным субъектам любого масштаба, включая тех, кто отвечает за защиту критической инфраструктуры, государственных услуг и цифровых систем, от которых люди зависят ежедневно.
  • Итеративное развертывание: Мы извлекаем максимум пользы, осторожно внедряя эти системы в реальный мир и совершенствуя их со временем. По мере того как мы лучше понимаем их возможности и риски, мы соответствующим образом обновляем наши модели и системы безопасности. Это включает в себя понимание дифференцированных преимуществ и рисков конкретных моделей, повышение устойчивости к взлому (jailbreak) и другим злонамеренным атакам, а также совершенствование оборонных возможностей при одновременном снижении рисков нанесения вреда.
  • Инвестиции в устойчивость экосистемы: Мы поддерживаем и развиваем сообщество специалистов по защите с помощью путей доверенного доступа, целевых грантов, вклада в инициативы по обеспечению безопасности открытого исходного кода, а также таких технологий, как Codex Security, которые помогают защитникам быстрее находить и устранять уязвимости.

Наша стратегия обеспечения устойчивости кибербезопасности и ускорения защитных мер

Много лет наша стратегия в области кибербезопасности заключалась в инвестициях в исследования, предотвращении злоупотреблений и поддержке защитников. По мере развития возможностей моделей мы расширяли наши программы в соответствии с этими целями, которые опираются на следующие убеждения:

  • Киберриски уже существуют и нарастают, но мы можем действовать. Цифровая инфраструктура оставалась уязвимой в течение многих лет, еще до появления передового ИИ. Теперь существующие модели могут помогать находить уязвимости, анализировать кодовые базы и поддерживать значительную часть рабочих процессов в области кибербезопасности, а злоумышленники экспериментируют с новыми подходами на базе ИИ. Мы видели, как сложные среды вызывают все более мощные возможности за счет использования дополнительных вычислительных ресурсов на этапе тестирования в существующих моделях. Это означает, że средства защиты не могут ждать какого-то единого будущего порога.
  • Расширение доступа на основе того, кто использует эти системы и как они применяются. Кибервозможности по своей сути имеют двойное назначение, поэтому риск не определяется только самой моделью. Он также зависит от пользователя, сигналов доверия вокруг него и уровня предоставляемого доступа.
    • Широкий доступ к общим моделям со средствами защиты может сосуществовать с более детальными элементами управления для возможностей с более высоким уровнем риска, подкрепленными более строгой верификацией, более четкими сигналами о намерениях и лучшей прозрачностью использования.
    • Чтобы обеспечить ответственное использование в больших масштабах, нам нужны системы, которые могут подтверждать надежность пользователей и сценариев использования более автоматизированными и объективными способами. Это позволяет нам расширять доступ на основе фактов и реальных сигналов доверия, а не полагаться на ручные решения. Мы считаем непрактичным и нецелесообразным централизованно решать, кому разрешено защищаться. Вместо этого мы стремимся дать возможность как можно большему числу легитимных защитников получить доступ, основанный на верификации, сигналах доверия и подотчетности.
  • Средства защиты должны постоянно масштабироваться вместе с возможностями. По мере роста возможностей моделей средства защиты должны развиваться параллельно с ними. Мы наблюдаем неуклонное улучшение возможностей агентов кодирования, что напрямую влияет на кибербезопасность, и мы соответствующим образом адаптируем наш подход.
    • Мы начали обучение безопасности, специфичной для кибербезопасности, с GPT‑5.2, затем расширили его дополнительными мерами безопасности в GPT‑5.3‑Codex и GPT‑5.4, где мы также классифицировали модель как имеющую «высокий» уровень кибервозможностей в соответствии с нашей методологией оценки готовности (Preparedness Framework). Параллельно мы увеличили поддержку защитников: запустили программу грантов на кибербезопасность в размере 10 млн долларов, охватили более 1000 проектов с открытым исходным кодом с помощью инициативы Codex for Open Source, которая предоставляет бесплатное сканирование безопасности, и продолжили совершенствовать Codex Security.
    • Codex Security, запущенная в закрытой бета-версии шесть месяцев назад, а в качестве исследовательской версии — ранее в этом году, автоматически мониторит кодовые базы, проверяет проблемы и предлагает исправления. По мере совершенствования моделей росли точность и полезность системы. После недавнего запуска Codex Security помогла устранить более 3000 критических и серьезных уязвимостей, а также множество других исправлений с более низким уровнем угрозы по всей экосистеме.
    • В этих релизах мы также усовершенствовали то, как модели обрабатывают конфиденциальные запросы, откалибровав границы отказов и одновременно расширив доверенный доступ с помощью таких программ, как TAC.
  • Само программное обеспечение должно стать более безопасным. Наиболее устойчивая экосистема — это та, которая непрерывно выявляет, проверяет и устраняет проблемы безопасности по мере написания кода. Интегрируя передовые модели кодирования и агентские возможности в рабочие процессы разработчиков, мы можем предоставлять им немедленную, практическую обратную связь в процессе разработки, перенеся фокус безопасности с эпизодических аудитов и статических перечней ошибок на постоянное, осязаемое снижение рисков.

Масштабирование доверенного доступа для кибербезопасности (TAC) и GPT‑5.4‑Cyber

Мы хотим расширить возможности защитников, предоставив широкий доступ к передовым возможностям, включая модели, созданные специально для кибербезопасности. В феврале мы представили программу Trusted Access for Cyber (TAC), включающую автоматическую верификацию личности для физических лиц с целью снижения барьеров средств защиты при решении задач, связанных с кибербезопасностью, а также партнерство с ограниченным числом организаций для предоставления более гибких моделей.

Сегодня мы расширяем эту программу, вводя дополнительные уровни доступа для пользователей, готовых пройти аутентификацию в OpenAI в качестве специалистов по кибербезопасности. Клиенты высших уровней получат доступ к GPT‑5.4‑Cyber — модели, специально настроенной для расширения кибервозможностей с меньшим количеством ограничений. Это версия GPT‑5.4, которая снижает барьер для отказов при легитимной работе в сфере кибербезопасности и открывает новые возможности для продвинутых рабочих процессов защиты, включая реверс-инжиниринг бинарного кода. Он позволяет специалистам по безопасности анализировать скомпилированное ПО на предмет вредоносного потенциала, уязвимостей и надежности защиты без доступа к исходному коду.

Поскольку эта модель обладает более мягкими ограничениями, мы начинаем с ограниченного итеративного развертывания для проверенных поставщиков средств безопасности, организаций и исследователей. Доступ к более гибким и способным в сфере кибербезопасности моделям может сопровождаться ограничениями, особенно в отношении вариантов использования без возможности просмотра, таких как политика нулевого хранения данных (Zero-Data Retention, ZDR). Это особенно актуально для разработчиков и организаций, обращающихся к нашим моделям через сторонние платформы, где у OpenAI может быть меньше прямой видимости пользователя, среды или цели запроса.

Получить доступ к TAC очень просто:

  • Индивидуальные пользователи могут подтвердить свою личность по адресуchatgpt.com/cyber.
  • Корпоративные клиенты могут запросить доверенный доступ для своей команды через своего представителя OpenAI.

Все клиенты, одобренные в рамках этого процесса, получат доступ к версиям существующих моделей с меньшими ограничениями в отношении средств безопасности, которые могут срабатывать при кибердеятельности двойного назначения. Это позволит им продолжать поддерживать обучение безопасности, защитное программирование и ответственные исследования уязвимостей. Клиенты, уже участвующие в TAC и готовые дополнительно подтвердить свой статус легитимных киберзащитников, могут выразить заинтересованность в получении дополнительных уровней доступа, включая запрос доступа к GPT‑5.4‑Cyber.

Взгляд в будущее: предстоящий выпуск моделей и дальнейшие перспективы

Наши средства киберзащиты являются результатом многих месяцев итеративного улучшения. Мы считаем, что используемые сегодня средства защиты в достаточной степени снижают киберриски для поддержки широкого развертывания текущих моделей. Мы ожидаем, что версии этих средств защиты будут достаточны для предстоящих более мощных моделей, в то время как модели, специально обученные и сделанные более гибкими для работы в сфере кибербезопасности, потребуют более строгих мер развертывания и соответствующих элементов контроля.

В долгосрочной перспективе для обеспечения постоянной эффективности безопасности ИИ в сфере кибербезопасности нам также потребуется создание более масштабных средств защиты для будущих моделей, возможности которых быстро превзойдут даже лучшие специализированные модели сегодняшнего дня.

Автор

OpenAI

Полный текст статьи читайте на OpenAI