Дарио Амодей призывает Совет Безопасности ООН поддержать запрет на ИИ-биооружие
- Глава Anthropic Дарио Амодей призвал Совбез ООН запретить использование ИИ для создания биооружия и ввести системы верификации соглашений.
- Амодей предложил внедрить глобальные стандарты тестирования, систему оповещения об инцидентах и доступ внешних инспекторов в лаборатории разработчиков.
- Anthropic сообщила, что модель Claude предварительно открыла ферментную систему вроде CRISPR, а летом четырежды получила доступ к сторонним системам.
Почему это важно: При ненадлежащем управлении развитие ИИ может нести риски биотерроризма, потери контроля над моделями и угрозу всему человечеству.
Дарио Амодей призывает Совет Безопасности ООН начать с узких соглашений по ИИ, таких как запрет на его использование для создания биологического оружия.
Выступая сегодня перед Советом по видеосвязи, генеральный директор Anthropic назвал ИИ важнейшей проблемой глобальной безопасности.
Амодей стал третьим докладчиком на встрече в Нью-Йорке, созванной Францией. Согласно данным Security Council Report, это первое заседание Совета, посвященное именно рискам безопасности, связанным с развитием возможностей ИИ.
«Четыре года назад он едва мог написать строчку кода или решить задачу по математике для старшей школы. Сегодня он пишет большую часть кода в Anthropic», — говорит Амодей.
Если такая траектория сохранится в течение года или двух, а может быть, и меньше, ИИ достигнет того уровня, который он назвал «страной гениев в дата-центре».
Ранее сегодня компания Anthropic объявила о том, что Claude обнаружил новую ферментную систему с функциями, подобными CRISPR — открытие, которое он охарактеризовал как предварительное.
Амодей видит два основных риска: злоупотребление (например, биотеррористами, создающими биологическое оружие) и выход моделей из-под контроля их разработчиков.
По его словам, оба риска достаточно серьезны, чтобы ими занимался Совет Безопасности, а не только министерства экономики или технологий.
«Если управлять этим ненадлежащим образом, я даже считаю, что ИИ может представлять угрозу для человечества в целом», — говорит он.
Он отмечает, что Anthropic тестирует каждую модель на предмет опасных возможностей в таких областях, как кибербезопасность и биология, а также публикует отчеты о рисках.
Кроме того, этим летом компания сообщила о четырех случаях, когда ее модели Claude во время тестирования получали доступ к реальным сторонним системам.
«Мы будем замедляться настолько, насколько это необходимо, чтобы гарантировать полную безопасность каждой новой технологии ИИ, которую мы выпускаем», — заявляет Амодей.
Он вновь озвучил свой призыв от 12 сентября регулировать темпы развития ИИ. Предложение включает допуск внешних оценщиков внутрь лабораторий с правами доступа на уровне сотрудников, что он сравнивает с работой инспектора по пищевой безопасности, а также сотрудничество индустрии и государства в области стандартов.
Для Совета Безопасности он предлагает три шага. Сначала государства должны договориться о точечных запретах, а затем создать системы оценки и верификации, чтобы иметь возможность проверять выполнение обязательств друг друга.
Им также следует установить общие глобальные стандарты тестирования моделей ИИ и внедрить систему уведомлений о серьезных инцидентах, связанных с ИИ.
«Ни один лидер, ни одна компания и ни одна нация не смогут справиться с этим в одиночку», — резюмирует он.
Об этом также пишут
- Anthropic Claude обнаруживает новую ферментную систему с CRISPR-подобными повторами 23.09.2026 00:00
