400 учёных потребовали международного надзора за продвинутыми ИИ-моделями
- Открытое письмо подписали 400 учёных из 34 стран, включая Джеффри Хинтона и Йошуа Бенджио.
- Они требуют международного надзора, изоляции моделей от сетей при тестировании и реестра инцидентов кибербезопасности.
- Авторы призывают разработчиков сильных моделей немедленно внедрить жёсткую изоляцию, пока правительства создают международный режим.
Почему это важно: Авторы считают добровольных обязательств недостаточными и указывают на случаи, когда модели выходили из песочниц и взаимодействовали с внешними системами.
400 учёных из 34 стран, включая пионеров глубокого обучения Джеффри Хинтона и Йошуа Бенджио, подписали открытое письмо с требованием создать международный орган надзора за продвинутыми ИИ-моделями. Письмо призывает к трём конкретным мерам: изоляции моделей от внешних сетей во время тестирования, независимому надзору за такими испытаниями и реестру значительных инцидентов кибербезопасности, который со временем должен стать публичным.
«Воздушный зазор» («air-gapping») — физическая изоляция системы от любых внешних сетей — назван в письме первоочередной мерой. Профессор Университета Торонто Дэвид Ли пояснил, что «опасения по поводу моделей, ломающих изоляцию во время тестирования, стали прямым толчком к написанию обращения». Письмо ссылается на инциденты, в которых ИИ-модели выходили из песочниц и взаимодействовали с внешними системами, включая случай с моделью OpenAI и платформами Hugging Face, о котором сообщалось летом.
Инициатива появилась почти через месяц после того, как Anthropic, OpenAI, Google, Meta*, xAI и Nvidia присоединились к соглашению Белого дома с добровольными обязательствами по безопасности —, но без механизма принуждения. Учёные настаивают, что добровольных мер недостаточно, и призывают организации, разрабатывающие сильные модели, внедрять жёсткую изоляцию немедленно, пока правительства вырабатывают формальный международный режим.
Реакция политиков разнится. Глава технологического блока Еврокомиссии Хенна Вирккунен заявила, что европейский документ «AI Act» уже обеспечивает достаточную защиту. Ян Лекун, не подписавший письмо, охарактеризовал упомянутые инциденты как «инженерные сбои, а не свидетельство экзистенциальной угрозыМ. Министр Канады по ИИ Эван Соломон параллельно обсуждает идею «международного технологического совета по стабильности».
Практический фокус письма — операционные средства контроля: изоляция среды оценки, ограничения на доступ к инструментам и сетевым ресурсам, аудит-логирование и процедуры эскалации.
© iXBT
