Anthropic перепишет часть утекшего законопроекта об ИИ после критики мер безопасности
- Anthropic пообещала пересмотреть переданный Конгрессу проект; он разрешает блокировать модель при непосредственном предсказуемом риске с ущербом свыше $1 млрд или более чем 50 пострадавшими.
- Энтони Чимино заявил, что компания уточнит формулировки об отмене законов штатов и пересмотрит пороги риска.
- Anthropic планирует предложить требования к независимым оценщикам; по проекту они должны сообщать Министерству торговли о непосредственной угрозе в течение 72 часов.
Почему это важно: Критики считают, что проект затруднит остановку опасных моделей и ограничит полномочия штатов приостанавливать их работу.
Anthropic сообщила американским законодателям, что перепишет часть собственного проекта закона о безопасности ИИ. Просочившийся в сеть текст несколько дней подвергался критике со стороны сообщества специалистов по безопасности ИИ. Конфиденциальный проект был опубликован Politico в пятницу. Anthropic распространяла его на Капитолийском холме.
Критики утверждают, что законопроект слабее основного законопроекта о безопасности ИИ, который уже рассматривает Конгресс. По их словам, он затруднит остановку опасной модели, а не облегчит её. Для компании, прославившейся борьбой за строгие правила в сфере ИИ, это неудобная позиция.
Что предусматривает законопроект
Проект позволяет правительству блокировать выпуск или использование модели лишь в ограниченном числе случаев. Риск должен быть предсказуемым и непосредственным. Он должен повлечь ущерб на сумму более 1 млрд долларов либо смерть или серьёзные травмы более чем 50 человек, сообщает Politico. Кроме того, причиной должна быть биологическое оружие, выход модели из-под контроля разработчика или кибератака. Эти пороговые значения совпадают с установленными законами Калифорнии об ИИ.
Чтобы заблокировать модель, Министерству торговли пришлось бы обратиться в федеральный суд и самостоятельно обосновать свою позицию. Проект запрещает любому другому ведомству или должностному лицу приостанавливать работу модели. Он также вытеснит действие некоторых законов штатов об ИИ. Речь идёт о требованиях раскрытия информации для общественности, независимой оценке третьими сторонами и сообщении об инцидентах. Законы о безопасности детей и гражданских правах останутся без изменений.
Независимые оценщики должны будут зарегистрироваться в Министерстве торговли и проверять модели лабораторий. Лаборатории смогут платить им при условии, что размер оплаты не будет зависеть от результата проверки. О непосредственной угрозе они должны будут сообщать Министерству торговли в течение 72 часов.
Почему защитники безопасности возмущены
Критики постоянно сравнивают этот проект с законом FRONTIER. Это двухпартийный законопроект, внесённый в июле конгрессменами Джеем Обернолте и Лори Трэхэн. В статье для Transformer Шакил Хашим написал, что проект Anthropic уступает ему по двум основным пунктам. В нём не устанавливаются стандарты и требования к лицензированию оценщиков, которые могут сертифицировать себя самостоятельно. Кроме того, он значительно затрудняет блокировку модели.
Чарли Буллок из LawAI заявил, что отсутствие лицензирования приведёт к конкуренции между аудиторами. По его словам, они будут предлагать самые поверхностные проверки по самой низкой цене. Натан Кэлвин, главный юрисконсульт правозащитной организации Encode, сказал, что проект вызвал у него «ярость на физическом уровне». По его словам, документ, судя по всему, не позволит судам штатов приостанавливать работу модели по соображениям безопасности.
Сенатор штата Калифорния Скотт Винер, автор закона штата о передовом ИИ, заявил, что предложение «далеко не обеспечивает защиту здоровья и безопасности населения». По его словам, в нём не установлены минимальные требования к планам обеспечения безопасности или аудиторам. Он также отметил, что в проекте неправомерно использовано определение из его закона о прозрачности SB 53, чтобы «обесценить» полномочия по экстренному отключению модели.
«Предложение Anthropic по безопасности ИИ далеко не обеспечивает защиту здоровья и безопасности населения. Конгресс должен пойти дальше», — написал Винер в X.
Вторая линия критики исходит с противоположной стороны. Дэвид Сакс, до недавнего времени занимавший пост куратора Белого дома по вопросам ИИ, заявил, что более низкий порог размера модели в проекте «затронет большую часть Кремниевой долины» и навредит стартапам. Согласно проекту Anthropic, модель считается передовой при более низком пороге объёма обучения, чем в законе FRONTIER или законодательстве Калифорнии. Поэтому действие проекта охватит больше компаний.
Anthropic заявляет, что пересмотрит проект
Энтони Чимино, возглавляющий команду Anthropic по взаимодействию с федеральными властями, ответил в X в субботу. Он заявил, что формулировка о вытеснении законов штатов «недостаточно точна» и будет обновлена.
Я возглавляю команду AnthropicAI по взаимодействию с федеральными властями и хотел бы поделиться несколькими мыслями о проекте федерального закона о безопасности ИИ, который в эти выходные начал распространяться после того, как его версия попала к прессе. Сначала — о процессе. Уже несколько месяцев мы выступаем за принципы, изложенные в нашем предложении о системе регулирования передового ИИ. Понятно, что федеральные законодатели хотели увидеть, как эти идеи могут выглядеть в виде законопроекта. Этот проект переводит их на язык законодательства; он был передан небольшому числу сотрудников Конгресса, которые работают над этими вопросами. В нём нет всего, что мы в конечном счёте хотели бы закрепить законом. Стоит пояснить нашу позицию по некоторым вопросам: мы согласны, что проект можно улучшить. Я вижу четыре основных пункта критики. 1. Вытеснение законов штатов. С 2024 года мы говорим, что Конгрессу следует отменять действие законов штатов об безопасности ИИ только в том случае, если он примет очень строгий федеральный стандарт. Мы подчёркивали, что любые положения о вытеснении законов штатов в контексте безопасности ИИ должны быть узкими — буквально точечными. Мы планируем обновить формулировки о вытеснении, чтобы они лучше соответствовали намерениям нашей системы регулирования передового ИИ. 2. Блокировка моделей. Мы хотим, чтобы Министерство торговли могло просить федеральный суд заблокировать модель с опасными возможностями и недостаточными мерами защиты, опираясь на оценку независимого эксперта. Мы стараемся найти здесь разумный баланс. Но порог не должен быть настолько высоким, чтобы этим полномочием нельзя было воспользоваться, когда оно необходимо. 3. Пороговые значения риска. Порог в нашем проекте напрямую заимствован из действующих стандартов законодательства Калифорнии. Вероятно, настало время пересмотреть эти значения, чтобы убедиться: национальный стандарт будет настолько строгим, насколько это возможно. 4. Обновления. Мы внесли некоторые изменения и продолжаем укреплять систему регулирования. Скоро мы планируем представить предложения о требованиях к независимым оценщикам и всё ещё рассматриваем варианты, которые помогут предотвратить «выбор оценщика под нужный результат». В основе нашего предложения лежит стремление сделать его самым строгим из всех обсуждаемых. Обратная связь крайне важна, и я благодарен за неё.
Энтони Чимино (@ajcimino) 18 октября 2026 года
Он заявил, что Anthropic сохранит за штатами роль в таких вопросах, как стандарты для оценщиков и возможность лаборатории отключить модель. По его словам, компания также опубликует дополнительные предложения по независимым оценщикам. Представитель Anthropic сообщил Politico, что законопроект отражает меры, «которые, по нашему мнению, Конгресс должен принять».
Проект появился после непростого лета для компании. Ранее в этом году администрация Трампа использовала экспортные ограничения, чтобы остановить работу двух самых передовых моделей Anthropic. Генеральный директор компании Дарио Амодеи утверждает, что отрасли необходимо замедлиться. Серия инцидентов с вышедшим из-под контроля ИИ этим летом усилила давление в пользу более строгих правил. Другие законопроекты об ИИ, в том числе предложение Сената, которое позволит Вашингтону блокировать модели, всё ещё находятся на рассмотрении.
