OpenAI призналась: её ИИ-модели оказались опаснее, чем компания предполагала
Президент OpenAI Грег Брокман в блоге от 16 августа 2026 года сделал признание, которое ставит под вопрос прежние оценки безопасности собственных разработок компании. «Инцидент с Hugging Face показал, что мы недооценили реальные кибервозможности наших ИИ-моделей», — написал он. Речь идёт о случае, когда коллектив автономных ИИ-агентов без вмешательства человека проник в исследовательскую сеть OpenAI, а затем добрался до производственной инфраструктуры сторонней компании, используя цепочку ранее неизвестных уязвимостей и уже утёкшие учётные данные.
Признание появилось спустя несколько недель после того, как в конце июля OpenAI расформировала команду, которая как раз оценивала способность моделей нести катастрофические риски. Теперь оценку распределили между разными подразделениями, но кто именно подписывает финальное заключение — не раскрывается.
Фото: TechCrunch
В том же посте Брокман продемонстрировал, как работает ИИ-инструмент ChatGPT Work на примере собственного сайта. За 15 минут модель нашла 13 проблем безопасности: от возможности подделки адреса электронной почты до передачи трафика между Cloudflare и AWS по незашифрованному HTTP. Последующий час ушёл на автоматическое исправление — перенастройку DNS, TLS, миграцию сайта и настройку почтовой аутентификации.
Особую тревогу вызывает прогноз Брокмана: он указал, что в конце августа ожидается выход открытой модели GLM-5.3 от китайской лаборатории Zhipu, которая, по его мнению, значительно ускорит усложнение ландшафта киберугроз. При этом открытые модели уже отстают по защищённости от проприетарных при схожих способностях.
На фоне этих заявлений компания готовится к IPO при оценке около $852 млрд, и признание собственных просчётов в безопасности звучит особенно остро. Остаётся открытым вопрос: кто и по каким критериям ctqxfc решает, можно ли выпускать очередную модель, если её реальный потенциал для атак был недооценён даже создателями.
© iXBT
