Регулирование передовых систем ИИ: управление возникающими рисками для общественной безопасности06.07.2023 07:00

Аннотация

Современные модели искусственного интеллекта открывают огромные перспективы для человечества, однако общество должно упреждающе управлять сопутствующими рисками. В этой статье мы сосредоточимся на том, что мы называем «передовыми моделями ИИ» (frontier AI): высокопроизводительных базовых моделях, которые могут обладать опасными возможностями, достаточными для создания серьезных угроз общественной безопасности. Передовые модели ИИ ставят перед регулированием уникальные задачи: опасные возможности могут возникать неожиданно; чрезвычайно сложно надежно предотвратить ненадлежащее использование развернутой модели; кроме того, трудно остановить широкое распространение возможностей модели. Для решения этих задач необходимы как минимум три структурных элемента регулирования передовых моделей: (1) процессы стандартизации для определения надлежащих требований к разработчикам передового ИИ, (2) требования к регистрации и отчетности для обеспечения видимости процессов разработки передового ИИ для регуляторов, и (3) механизмы обеспечения соблюдения стандартов безопасности при разработке и развертывании передовых моделей ИИ. Саморегулирование индустрии — это важный первый шаг. Тем не менее, для создания стандартов и обеспечения их соблюдения потребуются более широкие общественные дискуссии и вмешательство государства. Мы рассматриваем несколько вариантов решения этой задачи, включая наделение контрольных органов правомочиями по принудительному исполнению и введение режима лицензирования для передовых моделей ИИ. Наконец, мы предлагаем базовый набор стандартов безопасности. К ним относятся проведение оценки рисков до развертывания; внешний контроль за поведением модели; использование оценок рисков при принятии решений о развертывании;, а также мониторинг новой информации о возможностях и сценариях использования модели после ее развертывания и реагирование на нее. Мы надеемся, что это обсуждение внесет свой вклад в более широкую дискуссию о том, как сбалансировать риски для общественной безопасности и инновационные выгоды от достижений на переднем крае разработки ИИ.