Форум передовых моделей (Frontier Model Forum)26.07.2023 07:00

Мы создаем новый отраслевой орган для содействия безопасному и ответственному развитию передовых систем искусственного интеллекта: продвижения исследований в области безопасности ИИ, определения передовых практик и стандартов, а также содействия обмену информацией между политиками и индустрией.

Ниже публикуется совместное заявление и результат работы с компаниями Anthropic, Google и Microsoft.

• Anthropic, Google, Microsoft и OpenAI объемом о запуске Форума передовых моделей (Frontier Model Forum) — отраслевого объединения, нацеленного на обеспечение безопасной и ответственной разработки передовых моделей ИИ.
• Форум призван содействовать: (i) развитию исследований в области безопасности ИИ для поощрения ответственной разработки передовых моделей и минимизации потенциальных рисков; (ii) определению передовых практик безопасности для передовых моделей; (iii) обмену знаниями с политиками, учеными, гражданским обществом и другими заинтересованными сторонами для продвижения ответственной разработки ИИ; и (iv) поддержке инициатив по использованию ИИ для решения важнейших проблем общества.
• Форум передовых моделей учредит Консультативный совет для помощи в определении своей стратегии и приоритетов.
• Форум приветствует участие других организаций, разрабатывающих передовые модели ИИ и готовых к сотрудничеству в целях безопасного развития этих технологий.

Сегодня Anthropic, Google, Microsoft и OpenAI объявляют о создании Форума передовых моделей (Frontier Model Forum) — нового отраслевого объединения, сосредоточенного на обеспечении безопасного и ответственного развития передовых моделей ИИ. Форум передовых моделей будет опираться на технический и операционный опыт входящих в него компаний на благо всей экосистемы искусственного интеллекта, в том числе посредством продвижения технических оценок и бенчмарков, а также разработки публичной библиотеки решений для поддержки передовых отраслевых практик и стандартов.

Основные цели Форума:

1. Продвижение исследований в области безопасности ИИ в целях содействия ответственному развитию передовых моделей, минимизации рисков и обеспечения независимых стандартизированных оценок возможностей и безопасности.
2. Определение передовых практик ответственной разработки и внедрения передовых моделей, помогая общественности понять природу, возможности, ограничения и влияние этой технологии.
3. Сотрудничество с политиками, учеными, представителями гражданского общества и компаниями в целях обмена знаниями о рисках, связанных с доверием и безопасностью.
4. Поддержка усилий по разработке приложений, способных помочь в решении крупнейших проблем общества, таких как смягчение последствий изменения климата и адаптация к нему, раннее выявление и профилактика рака, а также борьба с киберугрозами.

Критерии членства

Форум определяет передовые модели как крупномасштабные модели машинного обучения, которые превосходят возможности наиболее продвинутых существующих моделей и способны выполнять самые разнообразные задачи.

Членство открыто для организаций, которые:

• Разрабатывают и внедряют передовые модели (согласно определению Форума).
• Демонстрируют твердую приверженность обеспечению безопасности передовых моделей, в том числе с помощью технических и институциональных подходов.
• Готовы вносить свой вклад в продвижение усилий Форума, в том числе участвуя в совместных инициативах и поддерживая разработку и функционирование данной инициативы.

Форум приветствует присоединение организаций, соответствующих этим критериям, к данной работе и сотрудничество в целях обеспечения безопасного и ответственного развития передовых моделей ИИ.

Чем будет заниматься Форум передовых моделей

Правительства и индустрия сходятся во мнении, что, хотя ИИ открывает огромные перспективы на благо мира, для смягчения рисков необходимы надлежащие защитные механизмы. Важный вклад в эти усилия уже внесли правительства США и Великобритании, Европейский союз, ОЭСР, G7 (в рамках Хиросимского процесса по искусственному интеллекту) и другие структуры.

Для развития этих инициаций необходима дальнейшая работа над стандартами безопасности и оценками, чтобы гарантировать разработку и внедрение передовых моделей ИИ на ответственной основе. Форум станет одним из инструментов для межорганизационных обсуждений и действий в области безопасности и ответственности ИИ.

В предстоящем году Форум сосредоточится на трех ключевых направлениях в поддержку безопасного и ответственного развития передовых моделей ИИ:

• Определение передовых практик: Поощрение обмена знаниями и лучшими практиками между индустрией, правительствами, гражданским обществом и академическими кругами с акцентом на стандарты безопасности и методы обеспечения безопасности для смягчения широкого спектра потенциальных рисков.
• Продвижение исследований в области безопасности ИИ: Поддержка экосистемы безопасности ИИ путем выявления наиболее важных открытых исследовательских вопросов в данной сфере. Форум будет координировать исследования в таких областях, как состязательная устойчивость, механистическая интерпретируемость, масштабируемый контроль, независимый исследовательский доступ, эмерджентное поведение и обнаружение аномалий. На начальном этапе основное внимание будет уделено разработке и совместному использованию публичной библиотеки технических оценок и бенчмарков для передовых моделей ИИ.
• Содействие обмену информацией между компаниями и правительствами: Создание надежных, безопасных механизмов обмена информацией между компаниями, правительствами и соответствующими заинтересованными сторонами в отношении безопасности и рисков ИИ. Форум будет следовать передовым практикам ответственного раскрытия информации из таких областей, как кибербезопасность.

Кент Уокер (Kent Walker), президент по глобальным делам Google и Alphabet, отметил: «Мы рады сотрудничать с другими ведущими компаниями, делясь техническим опытом для содействия ответственным инновациям в сфере ИИ. Нам всем придется работать вместе, чтобы убедиться, что ИИ приносит пользу каждому».

Брэд Смит (Brad Smith), вице-председатель и президент Microsoft, заявил: «Компании, создающие технологии искусственного интеллекта, несут ответственность за то, чтобы они были безопасными, надежными и оставались под контролем человека. Эта инициатива является жизненно важным шагом для объединения технологического сектора в деле ответственного продвижения ИИ и решения задач так, чтобы он приносил пользу всему человечеству».

Анна Маканжу (Anna Makanju), вице-президент по глобальным делам OpenAI, заявила: «Передовые технологии ИИ обладают потенциалом принести глубокую пользу обществу, а способность реализовать этот потенциал требует надзора и управления. Крайне важно, чтобы ИИ-компании — особенно те, которые работают над самыми мощными моделями — пришли к общему знаменателю и продвигали продуманные, адаптируемые практики безопасности, чтобы гарантировать максимальную пользу от мощных инструментов ИИ. Это срочная работа, и этот форум имеет все возможности для того, чтобы действовать быстро в интересах развития безопасности ИИ».

Дарио Амодей (Dario Amodei), генеральный директор Anthropic, заявил: «В Anthropic считают, что ИИ способен кардинально изменить то, как работает мир. Мы рады сотрудничать с индустрией, гражданским обществом, правительством и научными кругами в целях содействия безопасному и ответственному развитию этой технологии. Форум передовых моделей сыграет важнейшую роль в координации передовых практик и обмене исследованиями в области безопасности передового ИИ».

Как будет работать Форум передовых моделей

В ближайшие месяцы Форум передовых моделей учредит Консультативный совет, представляющий широкий спектр происхождения и точек зрения, который поможет направлять его стратегию и приоритеты.

Компании-основатели также создадут ключевые институциональные механизмы, включая устав, систему управления и финансирования, а также рабочую группу и исполнительный совет для руководства этими усилиями. В ближайшие недели мы планируем проконсультироваться с гражданским обществом и правительствами относительно структуры Форума и путей содержательного сотрудничества.

Форум передовых моделей приветствует возможность поддержать существующие правительственные и многосторонние инициативы, такие как Хиросимский процесс G7, работу ОЭСР по рискам ИИ, стандартам и социальному воздействию, а также Совет по торговле и технологиям США-ЕС, а также внести свой вклад в них.

Форум также будет стремиться опираться на ценную работу существующих инициатив в области индустрии, гражданского общества и исследований в рамках каждого из своих направлений. Такие инициативы, как Партнерство по искусственному интеллекту (Partnership on AI)⁠ и MLCommons⁠, продолжают вносить важный вклад в развитие сообщества специалистов по ИИ, и Форум изучит возможности сотрудничества с этими и другими ценными инициативами с участием многих заинтересованных сторон.