Anthropic поддерживает законопроект SB 5308.09.2025 00:00

Anthropic поддерживает законопроект SB 53 — калифорнийский законопроект, регулирующий создание мощных систем искусственного интеллекта передовыми разработчиками ИИ, такими как Anthropic. Мы давно выступаем за продуманное регулирование ИИ, и наша поддержка этого законопроекта является результатом тщательного анализа уроков, извлеченных из предыдущей попытки Калифорнии регулировать сферу ИИ (SB 1047). Хотя мы считаем, что вопросы безопасности передового ИИ лучше решать на федеральном уровне, а не с помощью лоскутного одеяла из штатных законов, развитие мощного ИИ не станет ждать достижения консенсуса в Вашингтоне.

Губернатор Ньюсом сформировал Совместную рабочую группу по политике в сфере ИИ в Калифорнии, состоящую из ученых и отраслевых экспертов, для подготовки рекомендаций по управлению ИИ. Рабочая группа поддержала подход «доверяй, но проверяй», и законопроект SB 53 сенатора Скотта Винера воплощает этот принцип через требования к раскрытию информации, а не через предписанные технические регламенты, которые омрачили прошлогодние попытки.

Чего добивается SB 53

Законопроект SB 53 потребует от крупных компаний, разрабатывающих самые мощные системы ИИ, следующего:

• Разрабатывать и публиковать концепции безопасности, в которых описывается, как они управляют катастрофическими рисками, оценивают и минимизируют их — рисками, которые могут предсказуемо и существенно привести к инциденту с массовыми жертвами или крупному материальному ущербу.
• Выпускать публичные отчеты о прозрачности, обобщающие результаты оценки катастрофических рисков и шаги, предпринятые для реализации соответствующих концепций перед развертыванием новых мощных моделей.
• Сообщать о критических инцидентах безопасности властям штата в течение 15 дней, а также конфиденциально раскрывать сводки любых оценок потенциальных катастрофических рисков от использования моделей, развертываемых внутри компании.
• Предоставлять четкую защиту информаторам (whistleblowers), которая распространяется на нарушения этих требований, а также на конкретные и существенные угрозы здоровью и безопасности населения, исходящие от катастрофических рисков.
• Нести публичную ответственность за обязательства, принятые в рамках своих концепций, под угрозой денежных штрафов.

Эти требования формализуют практику, которой Anthropic и многие другие передовые ИИ-компании уже следуют. В Anthropic мы публикуем нашу политику ответственного масштабирования (Responsible Scaling Policy), подробно описывающую, как мы оцениваем и снижаем риски по мере роста возможностей наших моделей. Мы выпускаем исчерпывающие карты систем (system cards), в которых документируются возможности и ограничения моделей. Другие передовые лаборатории (Google DeepMind, OpenAI, Microsoft) приняли аналогичные подходы, продолжая жесткую конкуренцию на передовом рубеже. Теперь все подпадающие под действие закона модели будут юридически соответствовать этому стандарту. Законопроект также справедливо фокусируется на крупных компаниях, разрабатывающих самые мощные системы ИИ, одновременно предоставляя исключения для стартапов и небольших компаний, которые с меньшей вероятностью создадут мощные модели и не должны нести избыточное регуляторное бремя.

Требования SB 53 к прозрачности окажут важное влияние на безопасность передового ИИ. Без них у лабораторий, создающих все более мощные модели, могут усилиться стимулы к свертыванию собственных программ безопасности и раскрытия информации ради конкуренции. Но с SB 53 разработчики могут соревноваться, оставаясь при этом прозрачными в отношении возможностей ИИ, которые создают риски для общественной безопасности, что формирует равные условия игры, где раскрытие информации является обязательным, а не добровольным.

Взгляд в будущее

Законопроект SB 53 создает прочную основу для регулирования, но мы можем и должны развивать этот прогресс в следующих направлениях и с нетерпением ждем возможности поработать над этим совместно с законодателями:

• В настоящее время законопроект определяет, какие системы ИИ подлежат регулированию, на основе объема вычислительной мощности (FLOPS), использованной для их обучения. Текущий порог (10^26 FLOPS) — приемлемая отправная точка, однако всегда существует риск того, что некоторые мощные модели могут остаться без регулирования.
• Аналогичным образом, от разработчиков следует требовать большей детализации проводимых ими тестов, оценок и мер по снижению рисков. Когда мы делимся нашими исследованиями в области безопасности, документируем тестирование на проникновение силами «красных команд» (red team) и объясняем наши решения по развертыванию — как мы это делаем вместе с другими игроками индустрии через Frontier Model Forum, — это укрепляет, а не ослабляет нашу работу.
• Наконец, правила должны эволюционировать по мере развития технологий ИИ. Регуляторы должны иметь возможность обновлять нормы по мере необходимости, чтобы поспевать за новыми достижениями и поддерживать правильный баланс между безопасностью и инновациями.

Мы высоко оцениваем лидерство сенатора Винера и губернатора Ньюсома в вопросах ответственного управления ИИ. Вопрос не в том, нужно ли нам управление ИИ, а в том, разработаем ли мы его продуманно сегодня или будем реагировать на последствия завтра. SB 53 предлагает надежный путь к первому варианту. Мы призываем Калифорнию принять этот законопроект и с нетерпением ждем возможности сотрудничать с политиками в Вашингтоне и по всему миру для создания комплексных подходов, которые защищают общественные интересы и сохраняют лидерство Америки в сфере ИИ.