Делаем искусственный интеллект доступным для каждого и повсеместно

Global__1_.png?w=1600&h=900&fit=fill

Наш подход к локализации.

Миссия OpenAI заключается в том, чтобы технологии искусственного интеллекта общего назначения (AGI) приносили пользу всему человечеству, и для выполнения этой миссии нам необходимо быть там, где находятся люди по всему миру.

ИИ все чаще признается важнейшей национальной инфраструктурой, стоящей в одном ряду с электроэнергией. Правительства и институты по всему миру стремятся обеспечить своим гражданам и экономикам возможность извлекать выгоду из эпохи ИИ за счет доступа к самым передовым из доступных систем.

Чтобы ИИ оправдал эти ожидания, он также должен быть адаптирован к местным условиям. Это означает владение местными языками и акцентами, уважение местных законов, а также отражение культурных норм и ценностей.

Однако лишь немногие страны способны самостоятельно разрабатывать передовые модели ИИ. Для большинства задача заключается не в том, чтобы создать модель с нуля, а в том, чтобы адаптировать лучший из существующих ИИ под свои конкретные нужды. Мы постоянно слышим это от правительств по всему миру: они хотят иметь суверенный ИИ, который они могут создавать вместе с нами, а не просто системы, переведенные на их язык.

В рамках нашей инициативы OpenAI для стран (OpenAI for Countries) мы изучаем, как локализация может работать на практике. Цель состоит в том, чтобы обеспечить создание локализованных систем ИИ, сохраняя при этом преимущества глобальной передовой модели.

В настоящее время мы тестируем локализованную версию ChatGPT для учащихся в Эстонии в рамках нашей работы по программе ChatGPT Edu, включая местные учебные программы и педагогические подходы. Мы также изучаем возможность пилотных проектов по локализации в других странах. В рамках нашего стремления к прозрачности в исследованиях и внедрении ИИ мы делимся более подробной информацией о том, как работает локализация.

Наша спецификация моделей (Model Spec) представляет собой публичный документ, определяющий то, как должны вести себя наши модели. Мы обучаем наши модели следовать этой спецификации и постоянно совершенствуем ее в ходе совместного процесса внутри OpenAI, учитывая отзывы, которые наши команды получают от людей по всему миру. Спецификация охватывает весь спектр сценариев использования наших моделей: от ChatGPT и возможностей, создаваемых разработчиками на нашей платформе, до других контекстов. Эти правила, которые применяются везде, где развертываются наши модели, устанавливают четкие границы в отношении того, что можно и чего нельзя изменять, а также подтверждают наше обязательство быть прозрачными в отношении любых изменений.

Спецификация моделей включает в себя »принципы недопустимости нарушений (red-line principles)», которые применяются ко всем случаям развертывания, включая те, что осуществляются в рамках программы OpenAI для стран. В них мы подчеркиваем, что «безопасность человека и права человека имеют первостепенное значение для миссии OpenAI», и четко заявляем следующее:

  • Мы не позволим нашим моделям способствовать нанесению серьезного вреда, такого как акты насилия, создание оружия массового уничтожения, терроризм, преследования или массовая слежка.
  • Мы не позволим использовать наши модели для целенаправленного или масштабного исключения, манипуляций, подрыва человеческой автономии или снижения вовлеченности в гражданские процессы.
  • Мы стремимся защищать частную жизнь людей при их взаимодействии с искусственным интеллектом.

Когда OpenAI предоставляет потребителям готовые продукты напрямую, такие как ChatGPT, мы также гарантируем, что посредством них:

  • Люди должны иметь легкий доступ к надежной и критически важной для безопасности информации от наших моделей.
  • Кастомизация, персонализация и локализация не будут отменять обязательные правила, содержащиеся в спецификации моделей. Сюда относится принцип объективной точки зрения, что означает: локализация может влиять на язык или тон, но она не может изменить суть или баланс представленных фактов.
  • У пользователей должна быть прозрачная информация о важных правилах и причинах поведения наших моделей; например, любой контент, опущенный в силу юридических требований, будет четко обозначен для пользователя в каждом ответе модели с указанием типа удаленной информации и обоснования ее удаления без раскрытия самого отредактированного контента. Аналогичным образом любая добавленная информация также будет прозрачно обозначена.

Изучая возможности локализованного суверенного ИИ в рамках инициативы OpenAI для стран, мы стремимся и дальше делиться полученными знаниями и прозрачно развивать наш подход.

Автор

OpenAI

Полный текст статьи читайте на OpenAI