Представляем режим блокировки (Lockdown Mode) и метки повышенного риска в ChatGPT
Обновление от 4 июня 2026 г.: Режим блокировки (Lockdown Mode) становится доступен для личных аккаунтов ChatGPT, а также для самостоятельных бизнес-аккаунтов ChatGPT. Впервые представленный для корпоративных тарифных планов ChatGPT, режим блокировки представляет собой опциональную настройку для пользователей и команд, которым требуется более консервативный опыт работы с ChatGPT при взаимодействии с конфиденциальной информацией или подключенными функциями.
Режим блокировки разработан для пользователей с повышенными требованиями к безопасности или для ситуаций, когда пользователи готовы пожертвовать частью функционала продукта ради более строгих мер защиты. При включении режима ограничиваются или отключаются определенные функции, связывающие ChatGPT с интернетом или внешними сервисами, включая прямой доступ в интернет, поддержку изображений в ответах, Deep Research (включая поиск товаров), Agent Mode, сетевые возможности Canvas, живые коннекторы и загрузку файлов. Это снижает вероятность того, что атаки типа «инъекция промптов» приведут к утечке информации за пределы беседы. Личные пользователи могут включить его в разделе «Настройки» > «Безопасность».
Это часть нашего комплексного подхода к многоуровневой защите: по мере того как ChatGPT становится все более мощным и интегрированным, мы продолжаем внедрять практические меры предосторожности, которые дают пользователям больше возможностей контролировать то, как ChatGPT работает с конфиденциальной информацией и подключенными функциями.
Поскольку системы ИИ берут на себя все более сложные задачи, особенно те, которые связаны с интернетом и подключенными приложениями, ставки в области безопасности меняются.
Одна из возникающих угроз приобрела особенную важность: инъекция промптов (prompt injection). В ходе таких атак третья сторона пытается ввести систему диалогового ИИ в заблуждение, заставив ее выполнять вредоносные инструкции или раскрывать конфиденциальную информацию.
Сегодня мы представляем две новые защитные меры, призванные помочь пользователям и организациям снизить риски атак с инъекцией промптов, обеспечивая лучшую прозрачность рисков и более строгий контроль:
- Режим блокировки (Lockdown Mode) в ChatGPT — продвинутая опциональная настройка безопасности для пользователей из групп повышенного риска
- Метки «Повышенный риск» («Elevated Risk») для определенных функций в ChatGPT, ChatGPT Atlas и Codex, которые могут нести дополнительный риск
Эти нововведения дополняют наши существующие средства защиты на уровне моделей, продуктов и систем. Сюда входят песочница (sandboxing), защита от утечки данных через URL, мониторинг и правоприменение, а также корпоративные элементы управления, такие как ролевой доступ и журналы аудита.
Помогаем организациям защитить сотрудников, наиболее подверженных кибератакам
Режим блокировки — это дополнительная расширенная настройка безопасности, предназначенная для небольшой группы пользователей, уделяющих особое внимание безопасности (например, руководителей или групп безопасности в крупных организациях), которым требуется повышенная защита от сложных угроз. Большинству пользователей она не требуется. Режим блокировки жестко ограничивает возможности взаимодействия ChatGPT с внешними системами, снижая риск утечки данных из-за инъекций промптов.
Режим блокировки детерминировано отключает определенные инструменты и функции в ChatGPT, которые злоумышленник мог бы попытаться использовать для кражи конфиденциальных данных из бесед пользователей или подключенных приложений с помощью атак вроде инъекций промптов.
Например, веб-серфинг в режиме блокировки ограничен кэшированным контентом, поэтому никакие сетевые запросы в реальном времени не покидают защищенную сеть OpenAI. Это ограничение призвано предотвратить утечку конфиденциальных данных злоумышленнику через интернет-серфинг. Некоторые функции отключаются полностью, если мы не можем предоставить строгие детерминированные гарантии безопасности данных.
Режим блокировки — это новая детерминированная настройка, которая помогает защитить данные от непреднамеренной передачи третьим лицам за счет жесткого ограничения взаимодействия ChatGPT с определенными внешними системами.
Бизнес-планы ChatGPT уже обеспечивают безопасность данных корпоративного уровня. Режим блокировки дополняет эти меры защиты и доступен для ChatGPT Enterprise, ChatGPT Edu, ChatGPT for Healthcare и ChatGPT for Teachers. Администраторы могут включить его в настройках рабочего пространства (Workspace Settings), создав новую роль. При активации режим блокировки накладывает дополнительные ограничения поверх существующих настроек администратора.
Узнайте больше о режиме блокировки в нашем Справочном центре.
Поскольку некоторые критически важные рабочие процессы зависят от приложений, администраторы рабочего пространства сохраняют более детальный контроль. Они могут точно выбрать, какие приложения и какие конкретные действия в этих приложениях доступны пользователям в режиме блокировки. Кроме того, независимо от режима блокировки, платформа журналов Compliance API обеспечивает подробный обзор использования приложений, общих данных и подключенных источников, помогая администраторам осуществлять контроль.
Мы планируем сделать режим блокировки доступным для обычных пользователей в ближайшие месяцы.
Помогаем пользователям принимать осознанные решения в отношении рисков
Продукты ИИ могут быть более полезными при подключении к вашим приложениям и интернету, и мы вложили значительные средства в обеспечение безопасности подключенных данных. В то же время некоторые сетевые функции создают новые риски, которые еще не до конца устранены мерами безопасности отрасли. Некоторые пользователи могут быть готовы принять эти риски, и мы считаем важным предоставить им возможность самим решать, стоит ли и как именно использовать такие функции, особенно при работе со своими личными данными.
Наш подход заключался в предоставлении встроенных в продукт инструкций для функций, которые могут нести дополнительный риск. Чтобы сделать это более понятным и единообразным, мы стандартизируем маркировку небольшого списка существующих возможностей. Теперь эти функции будут иметь единую метку «Повышенный риск» («Elevated Risk») в ChatGPT, ChatGPT Atlas и Codex, благодаря чему пользователи будут получать одинаковые рекомендации везде, где они с ними сталкиваются.
Например, в нашем помощнике по написанию кода Codex разработчики могут предоставить сетевой доступ, чтобы Codex мог выполнять действия в интернете, такие как поиск документации. Экран соответствующих настроек включает метку «Повышенный риск», а также четкое объяснение того, что именно меняется, какие риски могут возникнуть и когда такой доступ уместен.
Снимок экрана с настройками Codex, где пользователи могут настроить сетевой доступ для Codex.
Что дальше
Мы продолжаем инвестировать в укрепление наших средств обеспечения безопасности, особенно в отношении новых, возникающих или растущих рисков. По мере усиления защиты для этих функций мы удалим метку «Повышенный риск», как только убедимся, что достижения в области безопасности в достаточной степени снизили эти риски для общего использования. Мы также продолжим со временем обновлять список функций, отмеченных этой меткой, чтобы наилучшим образом информировать пользователей о рисках.
Автор
Полный текст статьи читайте на OpenAI
