Впечатления от глобального диалога29.06.2023 07:00

Мы понимаем, что для выполнения нашей миссии по созданию систем ИИ, которые приносят пользу каждому, нам необходимо уделять значительное время прямому взаимодействию с людьми, которые пользуются нашими технологиями и испытывают на себе их влияние. Именно поэтому в течение четырёх недель в мае и июне команда OpenAI во главе с нашим генеральным директором Сэмом Альтманом посетила 25 городов на 6 континентах, чтобы пообщаться с пользователями, разработчиками, политиками и широкой общественностью и узнать о приоритетах каждого сообщества в отношении разработки и внедрения ИИ. Мы глубоко признательны принимающей стороне и партнерам, которые помогли сделать нашу поездку успешной.

Что мы узнали

Наши пользователи и разработчики уже создают ценные приложения.Нас вдохновили креативность и находчивость, которые мы увидели во время поездки. В Нигерии старшеклассники⁠ рассказали нам, как они использовали ChatGPT для разбора сложных учебных тем. В Сингапуре государственные служащие внедряют инструменты OpenAI⁠ для более эффективного предоставления государственных услуг⁠. Во Франции сеть продуктовых магазинов использует наши инструменты, чтобы помочь клиентам сократить пищевые отходы⁠, а разработчики применяют наши технологии для повышения эффективности и безопасности кода⁠. (Мы с нетерпением ждем возможности узнать больше о том, как наши сервисы влияют на жизнь — если у вас есть история, о которой, по вашему мнению, нам стоит знать, пожалуйста, свяжитесь с нами⁠.)

У сообществ существуют общие надежды и опасения относительно влияния ИИ.Многие люди выражали энтузиазм по поводу перспектив использования инструментов для расширения и улучшения доступа к персонализированному образованию и здравоохранению, стимулирования экономического роста и предоставления специалистам во всех сферах возможности сократить объем рутинных задач и сосредоточиться на наиболее важных аспектах⁠ своей работы. Во всем мире растет спрос на код и сервисы, а более естественные пользовательские интерфейсы могут снизить барьеры, связанные с грамотностью, и расширить доступ к услугам⁠. В то же время многие собеседники высказывали опасения, связанные с дезинформацией, экономической передислокацией рабочей силы, а также рисками безопасности и защиты все более мощных моделей.

Политики повсеместно глубоко вовлечены в тему ИИ.Политики сосредоточены на обеспечении безопасного и выгодного внедрения текущих инструментов и серьезно подходят к решению задач как с точки зрения позитивного потенциала, так и рисков будущих моделей. Мы провели встречи с десятками высокопоставленных политиков и глав государств по всему миру, чтобы понять их подход к быстрому внедрению крупных моделей ИИ. То, что мы услышали, оказалось поразительно единодушным: лидеры хотят максимально использовать преимущества этой новой технологии для своих граждан и одновременно создать надлежащие защитные механизмы для управления ее рисками — как теми, которые исходят от существующих сегодня технологий, так и теми, которые, как мы ожидаем, появятся по мере роста их мощности. Политики, с которыми мы общались, хотят, чтобы постоянный диалог с ведущими лабораториями ИИ и их обязательства в области безопасности стали ключевым элементом их подхода, и поддерживают изучение глобального механизма регулирования мощных будущих систем ИИ⁠.

Люди хотят больше узнать о наших основных ценностях.Поездка позволила нам закрепить наши намерения. Например, один из частых вопросов касался использования нами клиентских данных, что дало нам возможность подтвердить, что мы не обучаем модели на данных клиентов API⁠, и напомнить, что пользователи ChatGPT могут легко отказаться от этого⁠. У нас также была возможность поделиться тем, что мы всегда уделяли особое внимание созданию продуманных механизмов безопасности — не только для общего искусственного интеллекта (AGI), но и для продуктов ИИ, которые мы выпускаем сегодня. Мы продолжим инвестировать значительные средства в обеспечение безопасности текущих систем⁠ до их выпуска и в их улучшение на основе отзывов пользователей.

Что дальше

Эта поездка помогла нам лучше понять точки зрения пользователей, разработчиков и правительственных лидеров по всему миру. Учитывая их отзывы, мы уделяем особое внимание следующим направлениям:

Сделать наши продукты более полезными, эффективными и доступными.Поездка прояснила наше понимание того, что требуется для того, чтобы наши продукты были доступны и полезны пользователям и разработчикам по всему миру. Мы работаем над изменениями, которые позволят людям легче направлять наши модели к ответам, отражающим более широкий спектр индивидуальных потребностей, а также местных культур и контекстов. Мы также работаем над улучшением производительности для языков, отличных от английского, принимая во внимание не только лабораторные тесты, но и то, насколько точно и эффективно наши модели работают в реальных сценариях развертывания, которые наиболее важны для наших разработчиков. И мы по-прежнему стремимся делать нашу ценовую политику доступной для разработчиков по всему миру.

Дальнейшая разработка передовых практик управления высокопроизводительными базовыми моделями.Поскольку общественные дебаты о новых законах и правилах в сфере ИИ продолжаются, мы удвоим наши усилия по тестированию и совершенствованию конкретных практик управления, специально адаптированных для высокопроизводительных базовых моделей, подобных тем, которые мы создаем. Сюда входят такие важнейшие направления работы по безопасности, как оценка безопасности⁠ перед развертыванием и состязательное тестирование⁠, а также новые инициативы, позволяющие людям отслеживать происхождение контента, созданного ИИ. Мы верим, что такие меры станут важными компонентами экосистемы управления ИИ наряду с давно устоявшимися законами и отраслевой политикой для некоторых важных областей применения. Мы также продолжим инвестировать в пилотирование широкомасштабных подходов общественного участия⁠ в наши решения по развертыванию, внедрение функций локализации в наши системы и развитие международного исследовательского сообщества для расширения и укрепления оценки возможностей и рисков моделей, в том числе посредством сторонних исследований⁠ наших систем ИИ и нашей программы грантов на кибербезопасность⁠.

Работа над раскрытием преимуществ ИИ.Мы будем расширять наши усилия по поддержке всеобщей грамотности в области ИИ, которая, как мы слышали, является приоритетом для многих сообществ, а также инвестировать в способы получения выгоды авторами, издателями и производителями контента от этих новых технологий, чтобы мы могли продолжать поддерживать здоровую цифровую экосистему. Кроме того, мы формируем команды, способные оказывать дополнительную поддержку организациям, изучающим возможности использования наших инструментов для создания общественно полезных приложений, а также проводим⁠исследования⁠ и разрабатываем политические рекомендации относительно социальных и экономических⁠последствий⁠создаваемых⁠нами⁠систем⁠.

В предстоящие недели и месяцы мы расскажем больше о каждом из этих направлений. Большое спасибо всем людям по всему миру, которые поделились с нами своими взглядами и опытом.