Ро Кханна планирует внести законопроект о запрете самообучающегося ИИ, сообщает CNBC
- Ро Кханна намерен запретить самообучающиеся модели, пока не появятся федеральные гарантии безопасности и ведомство не одобрит такую деятельность.
- Законопроект предусматривает федеральное ведомство, которое будет лицензировать и проверять передовые модели, а также устанавливать стандарты безопасности.
- Голосования по законопроектам в Палате представителей не ожидается до окончания промежуточных выборов.
Почему это важно: Кханна объяснил инициативу риском исчезновения цивилизации.
Конгрессмен Ро Кханна планирует внести законопроект, который запретит самообучающиеся модели ИИ до появления федеральных гарантий безопасности, сообщил в понедельник Гарретт Даунс в статье для CNBC. Кханна, демократ из Калифорнии, первым представил CNBC краткое изложение Закона о контроле человека над ИИ. TNW не видел текста законопроекта.
«На самом деле существует риск исчезновения цивилизации», — сказал Кханна CNBC.
Законопроект запретит модели, которые рекурсивно совершенствуют себя или самостоятельно меняют собственные основные цели, механизмы сдерживания либо отключения. Запрет будет действовать до появления федеральных ограничений и одобрения этой деятельности соответствующим ведомством.
Новое ведомство и уголовная ответственность
Законопроект предусматривает создание федерального ведомства, которое будет заниматься моделями ИИ от OpenAI, Anthropic, Google DeepMind и xAI. Ведомство будет разрабатывать правила безопасности и выдавать лицензии на обучение и развертывание моделей. Оно также будет проводить аудит передовых моделей и устанавливать стандарты тестирования и контроля со стороны человека.
В каждой лаборатории, разрабатывающей передовые модели, будут работать независимые аудиторы, которые станут напрямую отчитываться перед ведомством. Оно также установит стандарты для изолированных тестовых сред, воздушных зазоров и аварийных выключателей. Будут введены дополнительные меры контроля, чтобы модели не могли покинуть лаборатории и бесконтрольно действовать в интернете. Ведомство также будет регулировать использование лабораториями передовых чипов.
Сотрудникам, отключающим меры безопасности, аварийные выключатели, системы журналирования или сдерживания, будет грозить уголовная ответственность. То же касается тех, кто заведомо развертывает неавторизованную систему. Развертывание модели ИИ, уничтожающей гражданское население, будет считаться преступлением против человечности. Прежде чем выпускать модели, компании, занимающиеся ИИ, должны будут оформить обширную страховку ответственности.
Законопроект также призывает администрацию добиваться заключения обязательных к исполнению соглашений и вводить адресные экспортные ограничения, чтобы удержать Китай и других противников от создания опасного ИИ.
«Я хочу, чтобы этот законопроект стал образцом и дал голос сообществу, выступающему за безопасность ИИ», — сказал Кханна CNBC.
По словам Кханны, законопроект основан на обсуждениях с некоммерческими организациями, занимающимися безопасностью ИИ, а не на пожеланиях руководителей ИИ-компаний. Среди них — Model Evaluation and Threat Research, Machine Intelligence Research Institute и Palisade Research.
Письма китайским лабораториям ИИ
Кханна, главный представитель демократов в Специальном комитете Палаты представителей по Китаю, также направил письма компаниям DeepSeek, Alibaba и Moonshot AI, сообщил Лорен Файнер в статье для The Verge. Он запросил документы об их работе над сверхинтеллектом и рекурсивным самоусовершенствованием. Он также спросил директора национальной разведки Джея Клейтона, как США отреагируют, если лаборатория утратит контроль над своим ИИ.
Кханна поинтересовался, готовы ли они к инциденту, подобному взлому Hugging Face агентами OpenAI этим летом. По его словам, ответы помогут Конгрессу, а позднее и Белому дому, продвинуться в работе над соглашением с Китаем по ИИ.
Голосования до промежуточных выборов не будет
Законопроект пополнил ряд других инициатив, включая двухпартийный закон FRONTIER, предложенный конгрессменами Джеем Обернолте и Лори Тран. Этот законопроект также предусматривает размещение независимых аудиторов в лабораториях передовых моделей и наделяет правительство правом отключать модели с катастрофическим потенциалом. Как сообщает CNBC, голосования по законопроектам в Палате представителей не ожидается до окончания промежуточных выборов.
Законопроект появился после предупреждения более чем 20 исследователей о том, что ИИ, автоматизирующий собственные исследования, может вызвать взрыв интеллекта. Во вторник президент Дональд Трамп устроит обед в Белом доме для лидеров ИИ-индустрии.
