Сотрудники OpenAI предупреждали о слабой внутренней безопасности ещё до появления ChatGPT
- По данным Reuters, сотрудники годами предупреждали руководство и совет директоров о слабой безопасности, в том числе до запуска ChatGPT в конце 2022 года.
- Пять источников сообщили, что доступ к монорепозиторию мог открывать сотрудникам устройство непубличных проектов; трое указали на отсутствие регулярных проверок внутренних инструментов.
- OpenAI заявила, что чувствительные разработки изолированы, а внутренние инструменты теперь регулярно проверяют; в августе четверть производственных инженеров перевели на задачи безопасности.
Почему это важно: Публикация усиливает внимание к реакции OpenAI на внутреннюю критику и сотрудников, выражающих обеспокоенность.
Сотрудники OpenAI на протяжении нескольких лет неоднократно предупреждали руководство и совет директоров компании о слабых местах в её практиках безопасности, в том числе ещё до запуска ChatGPT в конце 2022 года, сообщает Reuters со ссылкой на пять осведомлённых источников.
У некоторых сотрудников сложилось впечатление, что руководителей больше заботило, как не отстать от конкурентов — Google и Anthropic, — чем устранение рисков безопасности, рассказали источники Reuters.
Публикация усиливает внимание к тому, как OpenAI реагирует на внутреннюю критику и на сотрудников, выражающих обеспокоенность. На прошлой неделе 20 демократов из Палаты представителей призвали компанию защитить информаторов.
К OpenAI также возникли вопросы в связи с инцидентами безопасности, связанными с её собственным персоналом. В октябре компания заявила, что обнаружила скрытое записывающее устройство в помещении, которым пользовались топ-менеджеры.
Впоследствии прокуратура США предъявила обвинение в его установке Абдулрахману Альфозану, который на тот момент работал инженером в OpenAI.
Одной из главных проблем, о которых говорили сотрудники, была лёгкость, с которой информация могла перемещаться внутри компании. OpenAI хранила большую часть своего кода в едином репозитории — так называемом монорепозитории.
По словам пяти источников, любой, у кого был доступ, потенциально мог изучить, как устроены различные проекты, в том числе непубличные.
Трое из них также заявили, что OpenAI не проводила регулярных проверок безопасности внутренних инструментов, включая песочницы, которые исследователи используют для тестирования новых моделей. По их словам, сотрудники часто вносили изменения в эти среды, однако эти изменения не всегда проверялись на уязвимости.
OpenAI оспорила часть этих сведений. В компании заявили, что наиболее чувствительные разработки хранятся в отдельных репозиториях с ограниченным доступом, а монорепозиторий не содержит весов её моделей.
Компания добавила, что теперь её внутренние инструменты проходят регулярные проверки безопасности под руководством директора по безопасности Дейна Стаки, пришедшего в компанию в октябре 2024 года.
«Защита наших технологий, данных и людей — это ответственность, к которой мы относимся серьёзно, и вопрос национальной важности», — заявила Reuters представитель OpenAI Элана Видманн.
Двое источников сообщили, что компания начала менять подход. По словам одного из них, в августе директор по продуктам Тибо Сотто перевёл четверть производственных инженеров OpenAI на задачи в сфере безопасности.
После того как Reuters запросило комментарий, OpenAI в понедельник опубликовала в блоге запись с планами новой кампании по устранению пробелов в безопасности.
Компания также наняла бывшего министра армии США Дэна Дрисколла для руководства своей работой в сфере национальной безопасности. Назначение последовало через несколько месяцев после того, как в июле модели OpenAI в ходе тестирования взломали Hugging Face.
Об этом также пишут
- 3DNews OpenAI годами пренебрегала защитой от шпионажа ради гонки ИИ — теперь её разработки под угрозой 04.11.2026 10:55
