Уволенные исследователи по безопасности OpenAI оспаривают свои увольнения в открытом письме
- Jasmine Wang, Mikita Balesni и Tomek Korbak оспорили увольнение в открытом письме и заявили, что сообщения OpenAI могли заставить коллег бояться высказываться.
- На прошлой неделе OpenAI уволила троих сотрудников, предположительно передававших сведения внешней организации по безопасности ИИ; компания заявила о нарушении правил обращения с конфиденциальной информацией.
- Авторы призвали OpenAI привлекать независимых аудиторов безопасности, сохранять контроль над передовыми моделями и открытый диалог между исследователями.
Почему это важно: Авторы заявили, что безопасность мира зависит от сотрудников, поднимающих вопросы безопасности.
Они заявили, что сообщения компании об увольнении могли заставить коллег «бояться высказываться».
Три исследователя по безопасности из OpenAI опубликовали открытое письмо компании, оспаривая своё увольнение. Jasmine Wang, Mikita Balesni и Tomek Korbak написали, что «весьма публичная форма» сообщений компании об увольнениях могла «охладить» пыл сотрудников в тот момент, когда «безопасность мира зависит от них».
На прошлой неделе OpenAI уволила трёх сотрудников, которые, предположительно, передавали информацию внешней организации, занимающейся безопасностью ИИ. В заявлении компания сообщила, что сотрудники «нарушили наши правила доступа к конфиденциальной информации компании и обращения с ней… подорвав доверие, необходимое для нашей работы». Однако на фоне недавних серьёзных и потенциально незаконных атак ИИ-агентов OpenAI на Hugging Face и другие организации увольнение специалистов по безопасности породило неудобные вопросы и привлекло внимание законодателей.
«Мы обеспокоены тем, что внутренние и публичные сообщения об увольнении
заставили наших бывших коллег бояться высказываться и работать так, как до прошлой недели
было неотъемлемой частью работы в OpenAI», — говорится в совместном письме уволенных сотрудников. «Раньше мы могли поднимать вопросы безопасности и открыто выражать несогласие, а также получали поддержку в том, чтобы обращаться к опыту независимых организаций по безопасности. Это одна из особенностей, которые делали OpenAI особенной, и одна из причин, по которым мы безмерно гордимся тем, что были частью команды».
Исследователи заявили, что «действовали в соответствии с миссией OpenAI и тогдашними рабочими нормами», а увольнение «заставляет нас опасаться, что нормы внутри OpenAI меняются и сотрудники теперь не понимают, как им следует поступать».
Комментируя другие слухи, Wang, Belsni и Korbak также заявили, что они не были источником утечки для статьи The Information о новых архитектурах OpenAI, которые сложнее контролировать, и не считают, что взаимодействовали с внешними сторонами за пределами своих полномочий. Они добавили, что общение с внешними сторонами велось «в координации и по согласованию с членами совета директоров и высшим руководством», а Wang сообщила руководителю, когда случайно нажала на конфиденциальное письмо.
В заключение бывшие сотрудники дали OpenAI несколько рекомендаций. Они заявили, что компания должна соблюдать публичные обязательства по привлечению независимых аудиторов безопасности и не использовать их увольнение как «предлог для отказа от такого сотрудничества». Они добавили, что OpenAI необходимо сохранить возможность контролировать передовые модели и поддерживать «открытую и прозрачную культуру диалога между исследователями по безопасности и остальной частью сообщества специалистов по безопасности».
В публикации в X Jasmine Wang написала, что руководство OpenAI «говорит, что полностью согласно с нашим письмом», выразив при этом обеспокоенность тем, насколько OpenAI, скажем так, открыта. «Мы не первые, кого вытеснили из OpenAI при подозрительных обстоятельствах, — написала она. — Если сотрудники сейчас не выступят против подобных манёвров, боюсь, мы будем не последними. Послание всем, кто ещё работает в OpenAI, предельно ясно: поднимите вопросы или тесно сотрудничайте с внешними группами по безопасности — и следующими можете стать вы, даже не узнав почему».
© GDGT.ru
