Рекомендации Anthropic для OSTP по плану действий США в сфере искусственного интеллекта06.03.2025 00:00

В ответ на запрос Белого дома о предоставлении информации касательно плана действий в области искусственного интеллекта компания Anthropic направила свои рекомендации в Управление по научно-технической политике (OSTP). Наши рекомендации призваны лучше подготовить США к извлечению экономической выгоды и учету последствий для национальной безопасности от внедрения мощных систем искусственного интеллекта.

Как пишет наш генеральный директор Дарио Амодей (Dario Amodei) в работе «Машины любящей благодати» (Machines of Loving Grace), мы ожидаем появления мощных систем ИИ в конце 2026 или начале 2027 года. Мощные системы ИИ будут обладать следующими свойствами:

• Интеллектуальные возможности, равные или превосходящие возможности лауреатов Нобелевской премии в большинстве дисциплин, включая биологию, компьютерные науки, математику и инженерию.
• Способность ориентироваться во всех интерфейсах, доступных человеку, выполняющему цифровую работу в настоящее время, включая способность обрабатывать и генерировать текст, аудио и видео, способность автономно управлять такими техническими инструментами, как мышь и клавиатура, а также способность получать доступ к интернету и просматривать его.
• Способность автономно рассуждать при решении сложных задач в течение длительного времени — часов, дней или даже недель, — запрашивая разъяснения и обратную связь при необходимости, подобно высококвалифицированному сотруднику.
• Способность взаимодействовать с физическим миром, управляя лабораторным оборудованием, робототехническими системами и производственными инструментами посредством цифровых подключений.

Наша собственная недавняя работа подтверждает предположение о том, что мощный ИИ появится в ближайшее время: недавно выпущенные нами Claude 3.7 Sonnet и Claude Code демонстрируют значительное улучшение возможностей и повышенную автономность, как и системы, представленные другими ведущими лабораториями.

Мы считаем, что Соединенные Штаты должны предпринять решительные действия для сохранения технологического лидерства. Наш документ с предложениями сфокусирован на шести ключевых направлениях, призванных учесть экономические последствия и аспекты безопасности мощного ИИ при одновременном максимизации выгод для всех американцев:

1. Тестирование для обеспечения национальной безопасности: Правительственные ведомства должны разработать надежные возможности для оценки как отечественных, так и зарубежных моделей ИИ на предмет потенциальных угроз национальной безопасности. Это включает в себя создание стандартных платформ оценки, построение защищенной инфраструктуры тестирования и формирование экспертных групп для анализа уязвимостей в развернутых системах.
2. Ужесточение экспортного контроля: Мы выступаем за ужесточение ограничений на экспорт полупроводников, чтобы гарантировать, что Америка и ее союзники смогут воспользоваться возможностями мощных систем ИИ, и предотвратить получение нашими противниками доступа к инфраструктуре, лежащей в основе мощного ИИ. Это включает в себя контроль над чипами H20, требование межправительственных соглашений для стран, размещающих крупные кластеры чипов, а также снижение порогов для поставок без лицензии.
3. Повышение безопасности лабораторий: Поскольку системы ИИ становятся критически важными стратегическими активами, мы рекомендуем установить каналы засекреченной связи между лабораториями ИИ и разведывательными ведомствами, ускорить процедуру получения допусков к секретной информации для профессионалов отрасли, а также разработать стандарты безопасности нового поколения для инфраструктуры ИИ.
4. Масштабирование энергетической инфраструктуры: Чтобы оставаться на переднем крае разработки ИИ, мы рекомендуем поставить амбициозную цель по вводу в эксплуатацию дополнительных 50 гигаватт специализированных генерирующих мощностей к 2027 году при одновременной оптимизации процессов выдачи разрешений и согласования.
5. Ускорение внедрения ИИ в государственном секторе: Мы предлагаем провести общеправительственную инвентаризацию рабочих процессов, которые могут выиграть от внедрения ИИ, и поставить перед руководителями ведомств задачу по реализации программ, где ИИ способен принести значительную общественную пользу.
6. Подготовка к экономическим последствиям: Чтобы гарантировать широкое распределение выгод от ИИ в обществе, мы рекомендуем модернизировать механизмы сбора экономических данных, такие как опросы Бюро переписи населения, и подготовиться к потенциальным масштабным изменениям в экономике.

Эти рекомендации опираются на предыдущую работу Anthropic в области политики, включая нашу приверженность политике ответственного масштабирования, а также тестированию и оценке. Наша цель — найти баланс: способствовать инновациям и одновременно смягчать серьезные риски, создаваемые все более способными системами ИИ.

В нашем полном заявлении, с которым можно ознакомиться здесь, содержатся более подробные сведения об этих рекомендациях и практические стратегии реализации, призванные помочь правительству США успешно пройти этот критический технологический переход.