Заявление Дарио Амодеи по поводу Парижского саммита по искусственному интеллекту (AI Action Summit)
Мы были рады принять участие в Саммите по действиям в сфере искусственного интеллекта в Париже и высоко ценим усилия французского правительства по объединению ИИ-компаний, исследователей и директоров по формированию политики со всего мира. Мы разделяем общую цель — ответственное развитие ИИ на благо человечества. Тем не менее, учитывая темпы технологического прогресса, необходимо уделить гораздо больше внимания и срочности целому ряду тем. Лидерство демократических стран, риски, связанные с ИИ, и стремительно приближающиеся экономические трансформации — все это должно занять центральное место на следующем саммите.
Времени осталось мало, и мы должны ускорить наши действия в соответствии с набирающим обороты прогрессом в сфере ИИ. Возможно, уже к 2026 или 2027 году (и практически наверняка не позднее 2030 года) возможности систем ИИ будут лучше всего описываться как появление на мировой арене совершенно нового государства, населенного высокоинтеллектуальными существами — «страны гениев в дата-центре», что повлечет за собой глубокие экономические, социальные и последствия для безопасности. Это открывает потенциально более масштабные экономические, научные и гуманитарные возможности, чем любая предшествующая технология в истории человечества, но в то же время сопряжено с серьезными рисками, требующими управления.
Во-первых, мы должны гарантировать лидерство демократических обществ в сфере ИИ и не допустить использования технологии авторитарными странами для установления глобального военного превосходства. Управление цепочкой поставок ИИ (включая чипы, оборудование для производства полупроводников и кибербезопасность) — это вопрос, заслуживающий гораздо большего внимания, равно как и разумное использование технологий ИИ для защиты свободных обществ.
Во-вторых, международные дискуссии об ИИ должны более полно учитывать растущие риски безопасности, связанные с технологией. Передовой ИИ представляет собой серьезную угрозу глобальной безопасности: от злоупотребления системами ИИ со стороны негосударственных акторов (например, в отношении химического, биологического, радиологического или ядерного оружия, или ХБРЯ) до автономных рисков, исходящих от мощных ИИ-систем. Накануне саммита почти 100 ведущих мировых экспертов опубликовали научный доклад, в котором подчеркивается потенциал искусственного интеллекта общего назначения существенно способствовать рискам катастрофического нецелевого использования или сценариям «потери контроля». Исследования компании Anthropic также продемонстрировали убедительные свидетельства того, что при отсутствии тщательного обучения модели ИИ могут вводить пользователей в заблуждение и преследовать цели непредназначенными способами, даже если они обучались внешне безобидным образом.
Мы рады видеть, что более 16 передовых ИИ-компаний взяли на себя обязательства следовать планам обеспечения безопасности и защищенности (версия Anthropic — наша политика ответственного масштабирования — была впервые представлена в сентябре 2023 года и стала первой в своем роде) еще до начала саммита. Но мы также убеждены, что правительства должны обеспечивать прозрачность этих планов и содействовать оценке кибератак, угроз ХБРЯ, автономности и других глобальных рисков безопасности, в том числе с привлечением сторонних оценщиков для разработчиков, ведущих свою деятельность в соответствующих странах.
В-третьих, хотя ИИ обладает потенциалом кардинально ускорить экономический рост во всем мире, он также способен вызвать серьезные потрясения. Появление «страны гениев в дата-центре» может стать крупнейшим изменением на глобальном рынке труда за всю историю человечества. Первым шагом должно стать отслеживание и наблюдение за экономическим воздействием современных ИИ-систем. Именно поэтому на этой неделе мы представили Экономический индекс Anthropic (Anthropic Economic Index), который отслеживает распределение видов экономической деятельности, для которых люди в настоящее время используют наши ИИ-системы, включая то, дополняют ли они текущие задачи человека или автоматизируют их. Правительства должны задействовать свои гораздо более масштабные ресурсы для аналогичных измерений и мониторинга, а в перспективе — принимать политику, направленную на то, чтобы экономические выгоды от сверхмощного ИИ распределялись среди всех.
На следующем международном саммите нельзя упускать такую возможность снова. Эти три вопроса должны находиться на вершине повестки дня. Развитие искусственного интеллекта ставит перед миром новые масштабные вызовы. Мы должны действовать быстрее и решительнее, чтобы противостоять им.
Полный текст статьи читайте на Anthropic
