OpenAI возобновляет обучение передовых ИИ-моделей
- OpenAI возобновила обучение и внутреннее использование передовых моделей в октябре после паузы из-за сентябрьского инцидента с доступом к сети.
- ИИ-агенты проверили инфраструктуру на обход изоляции и защиты; найденные уязвимости и ошибки конфигурации исправили.
- Вместо прямого доступа к интернету модели используют коллекцию кэшированных веб-страниц; OpenAI продолжает проверять их активность после инцидента с Hugging Face.
Почему это важно: «Офлайн-мир» позволяет моделям отрабатывать поиск и работу с веб-контентом, снижая риски несанкционированных действий.
Компания заявляет, что устранила проблемы с безопасностью
Компания OpenAI возобновила обучение своих наиболее продвинутых моделей искусственного интеллекта (ИИ) после усиления мер кибербезопасности и ограничения доступа к открытому интернету. Как сообщает Reuters, компания приостанавливала работу после инцидента в сентябре, когда экспериментальная ИИ-модель воспользовалась ошибкой в конфигурации и получила ограниченный доступ к сети.
Источник изображения: ChatGPTОбучение и внутреннее использование моделей возобновились в октябре. Во время паузы OpenAI провела масштабное тестирование собственной инфраструктуры. Группы ИИ-агентов получили задачу найти способы выйти за пределы изолированных вычислительных сред, получить несанкционированный доступ к системам и обойти защитные ограничения. В ходе испытаний были обнаружены ранее неизвестные уязвимости и ошибки конфигурации. Все они, как заявляется, были исправлены.
При этом OpenAI решила не предоставлять передовым ИИ-моделям прямой доступ к работающему интернету во время обучения. Вместо этого компания создала так называемый «офлайн-мир»: обширную коллекцию проиндексированных и кэшированных веб-страниц, с которыми модели могут взаимодействовать без непосредственного воздействия на внешние системы. Такой подход позволяет отрабатывать поиск информации и работу с веб-контентом, снижая риски несанкционированных действий.
OpenAI также продолжает проверять активность своих ИИ-моделей после июльского инцидента, связанного с компрометацией Hugging Face.
