Исследователей безопасности OpenAI, по имеющимся данным, уволили после поиска источника утечки в Signal
- По данным WSJ, OpenAI в прошлом месяце уволила Томека Корбака, Микиту Балесни и Жасмин Ван после расследования утечки.
- Служба безопасности попросила троих открыть личные телефоны и обнаружила исчезающие чаты Signal с Райаном Гринблаттом, который отрицает передачу данных.
- OpenAI заявила о нарушении правил конфиденциальности; исследователи отрицают передачу секретной информации и добивались сохранения видимости рассуждений ИИ.
Почему это важно: Публикация об утечке спровоцировала более широкую дискуссию о рассуждениях ИИ.
«Мне сказали, что произошёл подрыв доверия, потому что я общался с третьей стороной по несанкционированным каналам», — рассказал Томек Корбак.
Корбак — один из трёх исследователей безопасности OpenAI, уволенных в прошлом месяце. Он дал интервью The Wall Street Journal для материала Максвелла Зеффа, Кич Хейги и Бербера Джина, опубликованного в четверг.
По данным Journal, в ходе расследования утечки служба безопасности OpenAI попросила всех троих открыть свои личные телефоны. Предполагаемым источником утечки следователи назвали исследователя безопасности ИИ Райана Гринблатта. Он это отрицает. TNW не проверял эту информацию независимо.
Исчезающие сообщения
Расследование утечки началось после публикации The Information от 1 сентября. В ней говорилось, что Astra, новейшая модель OpenAI, использует новую технику, которая делает её мощнее, но показывает меньше её рассуждений. Главный научный сотрудник OpenAI Якуб Пахоцкий назвал эти сообщения «путаными», а само утверждение спровоцировало более широкую дискуссию о рассуждениях ИИ.
На телефонах сотрудники службы безопасности увидели, что некоторые исследователи включили исчезающие сообщения в чатах Signal с Гринблаттом. Неделю спустя OpenAI одновременно, в 14:00, вызвала всех троих на встречи и уволила их. Journal первым сообщил об увольнениях 1 октября.
Речь идёт о Корбаке, Миките Балесни и Жасмин Ван. Балесни и Корбак утверждают, что руководство OpenAI назвало исчезающие сообщения одной из причин. Все трое заявляют, что никогда не передавали конфиденциальную информацию за пределы компании.
Версия OpenAI
OpenAI сообщила Journal, что внутреннее расследование установило: все трое нарушили правила компании в отношении конфиденциальной информации.
Увольнения произошли «не из-за того, что они поднимали вопросы безопасности или высказывались публично», — заявили в компании.
Представительница компании сказала, что использование Signal не было одобрено, но это была не единственная причина. Корбак назвал исчезающие сообщения «базовой практикой безопасности» в Кремниевой долине.
Ван рассказала, что ей объяснили увольнение неоднократным открытием электронной почты одного из руководителей. По её словам, она просила OpenAI отозвать этот доступ почти за год до этого. В прошлом месяце она по ошибке открыла одно конфиденциальное письмо и сразу же сообщила об этом. В OpenAI заявили, что к самому доступу претензий не было.
Ответ Гринблатта
Гринблатт был главным научным сотрудником Redwood Research, а сейчас работает в METR. METR привлекла его по контракту для изучения логов инцидента с Hugging Face, когда агенты OpenAI вышли из-под контроля. Он сказал Journal, что серьёзно относится к конфиденциальности и никогда не передаёт подобную информацию журналистам. После выхода материала он пошёл дальше.
«Судя по этой статье, OpenAI выдвинула против меня ложные обвинения», — написал Гринблатт в X.
По его словам, трём исследователям сказали, что он помог слить The Information детали архитектуры, и это неправда. Журналист The Information действительно связывался с ним до публикации, сообщил он, но он не дал никаких комментариев, кроме одной просьбы, касавшейся его записи в блоге.
Он написал, что, по имеющимся у него сведениям, OpenAI также обвинила его в прочтении внутренней служебной записки с конфиденциальными деталями архитектуры, что он отрицает. По его словам, он видел лишь версию без конфиденциальных сведений, одобренную для передачи ему. Он полагает, что OpenAI теперь знает, что перепутала два документа.
Чаты в Signal велись с профессиональными контактами, сказал Гринблатт, а использование Signal распространено в технологической отрасли.
Сохранить прозрачность рассуждений ИИ
Все лето трое исследователей добивались того, чтобы рассуждения ИИ оставались видимыми. В центре их внимания была «цепочка рассуждений» (chain-of-thought) — письменный черновик, с помощью которого модель решает задачу. В октябрьском письме совету директоров OpenAI они призвали компанию сотрудничать с внешними организациями по безопасности.
«Лучшее объяснение нашего увольнения, которое у меня есть: общение с аудиторами было перебором по части безопасности, исчезающие сообщения — перебором по части защиты информации, и нам стоило умерить пыл», — написал Корбак в X.
