Блокировать ИИ при риске массовой гибели людей собираются в США
- Anthropic продвигает в Конгрессе законопроект о приостановке выпуска и использования ИИ-систем при ущербе от $1 млрд или риске гибели либо тяжёлых травм более 50 человек.
- Основания для вмешательства — создание биологического оружия, выход модели из-под контроля разработчика или кибератака; опасность оценят независимые эксперты.
- Разработчиков обяжут создать подразделения безопасности, публиковать отчёты и сообщать о серьёзных сбоях; сотрудников, раскрывающих нарушения, защитят от преследования.
Почему это важно: Anthropic называет эти меры способом контролировать наиболее мощные системы ИИ.
Anthropic продвигает в Конгрессе США законопроект, который позволит властям приостанавливать выпуск и использование систем искусственного интеллекта, если те представляют серьёзную угрозу, о чем пишет Politico.
Документ предусматривает вмешательство при риске ущерба на сумму от $1 млрд либо гибели или тяжёлых травм более чем у 50 человек. Угроза должна быть связана с созданием биологического оружия, выходом модели из-под контроля разработчика или кибератакой.
Оценивать потенциальную опасность предлагается независимым экспертам, зарегистрированным в Министерстве торговли США. На основании их заключений ведомство сможет обращаться в суд с требованием приостановить соответствующий проект. Законопроект также обяжет разработчиков создавать внутренние подразделения безопасности, публиковать отчёты о работе ИИ-моделей и оперативно сообщать регулятору о серьёзных сбоях. Отдельная норма должна защищать сотрудников, раскрывающих информацию о нарушениях, от преследования.
По данным Politico, ряд положений инициативы перекликается с законами Калифорнии о регулировании искусственного интеллекта, принятыми в 2025 году. Anthropic, разработчик семейства языковых моделей Claude, характеризует предложенные меры как разумный способ контролировать наиболее мощные системы ИИ.
© iXBT
