OpenAI API11.06.2020 07:00

Мы выпускаем API для доступа к новым моделям искусственного интеллекта, разработанным OpenAI. В отличие от большинства систем ИИ, созданных под конкретные задачи, сегодняшний API предоставляет универсальный интерфейс «текст на входе, текст на выходе», позволяя пользователям применять его практически для любой задачи на английском языке. Теперь вы можете запросить доступ, чтобы интегрировать API в свой продукт, разработать совершенно новое приложение или помочь нам исследовать сильные стороны и ограничения этой технологии.

Получив любой текстовый запрос, API возвращает продолжение текста, пытаясь воспроизвести заданный вами паттерн. Вы можете «программировать» модель, просто показывая ей несколько примеров того, что вы хотите получить; ее успешность обычно зависит от сложности задачи. API также позволяет повышать производительность для конкретных задач путем обучения на предоставленном вами наборе данных (малом или большом) или за счет обучения на основе обратной связи от пользователей или разметчиков.

Мы разработали API таким образом, чтобы он был простым для использования любым человеком и в то же время достаточно гибким, чтобы повысить продуктивность команд, занимающихся машинным обучением. Фактически, многие наши команды уже используют этот API, чтобы сосредоточиться на исследованиях в области машинного обучения, а не на проблемах распределенных систем. На сегодняшний день API запускает модели с весами из семейства GPT‑3⁠ со значительными улучшениями скорости и пропускной способности. Машинное обучение развивается очень быстро, и мы постоянно обновляем наши технологии, чтобы наши пользователи шли в ногу со временем.

Темпы прогресса в этой области означают, что регулярно появляются удивительные новые приложения ИИ — как позитивные, так и негативные. Мы будем закрывать доступ к API для очевидно вредоносных сценариев использования, таких как домогательства, спам, радикализация или искусственное формирование общественного мнения (astroturfing). Но мы также понимаем, что не можем предусмотреть все возможные последствия этой технологии, поэтому сегодня мы запускаем частную бета-версию, а не полноценный общий доступ, создаем инструменты, помогающие пользователям лучше контролировать возвращаемый нашим API контент, и исследуем аспекты языковых технологий, связанные с безопасностью (такие как анализ, смягчение и устранение вредоносных предрассудков). Мы будем делиться нашими наработками, чтобы наши пользователи и более широкое сообщество могли создавать системы ИИ, которые приносят больше пользы людям.

Помимо того, что API станет источником дохода для покрытия расходов⁠ в стремлении к нашей миссии⁠, он заставил нас сосредоточиться на универсальных технологиях ИИ — продвигать технологию вперед, делать ее удобной в использовании и учитывать ее влияние на реальный мир. Мы надеемся, что API значительно снизит порог входа⁠ для создания полезных продуктов на базе ИИ, что приведет к появлению инструментов и сервисов, которые сегодня трудно себе представить.

Хотите опробовать API? Присоединяйтесь к таким компаниям, как Algolia⁠,  Quizlet⁠ и Reddit⁠, а также к исследователям из таких институтов, как Институт Миддлбери⁠, в нашей частной бета-версии⁠.

Часто задаваемые вопросы

Почему OpenAI решила выпустить коммерческий продукт?

В конечном счете, то,  о чем мы заботимся больше всего⁠ — это обеспечение того, чтобы искусственный общий интеллект приносил пользу всем. Мы рассматриваем разработку коммерческих продуктов как один из способов гарантировать наличие достаточного финансирования для достижения успеха.

Мы также верим, что безопасное внедрение мощных систем ИИ в реальном мире — задача непростая. Выпуская API, мы тесно сотрудничаем с нашими партнерами, чтобы понять, какие проблемы возникают при использовании систем ИИ в реальной жизни. Это поможет нам лучше понять, как пойдет развертывание будущих систем ИИ и что нам нужно сделать, чтобы они были безопасными и полезными для каждого.

Почему OpenAI решила выпустить API вместо открытия исходного кода моделей?

У этого есть три основные причины. Во-первых, коммерциализация технологии помогает нам оплачивать наши текущие исследования в области ИИ, безопасности и разработки политики.

Во-вторых, многие модели, лежащие в основе API, очень велики, их разработка и развертывание требуют глубокой экспертизы, а запуск обходится очень дорого. Из-за этого извлекать выгоду из базовой технологии трудно всем, кроме крупных компаний. Мы надеемся, что API сделает мощные системы ИИ более доступными для малого бизнеса и организаций.

В-третьих, модель API позволяет нам проще реагировать на злоупотребление технологией. Поскольку сложно предсказать сценарии использования наших моделей в будущем, выпуск их через API с постепенным расширением доступа кажется нам гораздо более безопасным, чем публикация модели с открытым исходным кодом, доступ к которой невозможно скорректировать, если у нее обнаружатся вредоносные применения.

Что конкретно OpenAI будет делать в отношении злоупотреблений API, учитывая то, что вы ранее говорили о GPT-2?

В случае с GPT‑2 одной из наших главных забот было злонамеренное использование модели (например, для дезинформации), которое трудно предотвратить, когда исходный код модели открыт. В случае с API мы можем лучше предотвращать злоупотребления, ограничивая доступ утвержденными клиентами и сценариями использования. У нас действует обязательный процесс проверки продакшна до того, как предлагаемые приложения могут быть запущены. В ходе таких проверок мы оцениваем приложения по нескольким осям, задавая такие вопросы, как:  Является ли этот вариант использования поддерживаемым в настоящее время? ,  Насколько открытым является приложение? ,  Насколько рискованно приложение? ,  Как вы планируете бороться с потенциальными злоупотреблениями?  и Кто является конечными пользователями вашего приложения? .

Мы закрываем доступ к API для тех сценариев использования, которые приводят (или предназначены для приведения) к физическому, эмоциональному или психологическому вреду людей, включая, помимо прочего, домогательства, преднамеренный обман, радикализацию, искусственное формирование общественного мнения или спам, а также для приложений, в которых отсутствуют достаточные защитные механизмы для ограничения злоупотреблений со стороны конечных пользователей. По мере накопления опыта практической работы с API мы будем постоянно совершенствовать категории поддерживаемых нами вариантов использования — как для расширения спектра поддерживаемых приложений, так и для создания более детальных категорий для тех сфер, где у нас есть опасения по поводу злоупотреблений.

Одним из ключевых факторов, которые мы учитываем при одобрении использования API, является степень открытости или ограниченности поведения приложения по отношению к базовым генеративным возможностям системы. Приложения с открытым концом (т. е. те, которые обеспечивают беспрепятственную генерацию больших объемов настраиваемого текста через произвольные промпты) особенно подвержены злоупотреблениям. Ограничения, способные сделать генеративные варианты использования более безопасными, включают в себя системный дизайн, оставляющий человека в контуре управления (human-in-the-loop), ограничения доступа для конечных пользователей, постобработку результатов, фильтрацию контента, ограничения длины входных и выходных данных, активный мониторинг и тематические ограничения.

Мы также продолжаем исследования потенциальных злоупотреблений моделями, доступными через API, в том числе совместно со сторонними исследователями в рамках нашей программы академического доступа⁠. На данный момент мы начинаем с очень небольшого числа исследователей и уже имеем некоторые результаты от наших академических партнеров из Института Миддлбери⁠,  Вашингтонского университета и Института искусственного интеллекта Аллена⁠. У нас уже есть десятки тысяч заявок на эту программу, и в настоящее время мы отдаем приоритет заявкам, сосредоточенным на исследованиях честности и репрезентативности.

Как OpenAI будет смягчать вредоносные предрассудки и другие негативные эффекты моделей, доступных через API?

Смягчение таких негативных эффектов, как вредоносные предрассудки (bias) — это сложная проблема масштабности всей индустрии, которая имеет чрезвычайно важное значение. Как мы обсуждаем в документе по GPT‑3⁠ и карточке модели⁠, наши модели API действительно демонстрируют предрассудки, которые отражаются в генерируемом тексте. Вот шаги, которые мы предпринимаем для решения этих проблем:

• Мы разработали рекомендации по использованию, которые помогают разработчикам понимать и решать потенциальные проблемы безопасности.
• Мы тесно сотрудничаем с пользователями, чтобы понимать их сценарии использования и разрабатывать инструменты для выявления и смягчения вредоносных предрассудков.
• Мы проводим собственные исследования проявлений вредоносных предрассудков и более широких вопросов честности и репрезентативности, что поможет нашей работе за счет улучшенной документации существующих моделей, а также различных улучшений будущих моделей.
• Мы признаем, что предрассудки — это проблема, которая проявляется на пересечении системы и контекста ее развертывания; приложения, созданные с использованием нашей технологии, представляют собой социотехнические системы, поэтому мы работаем с нашими разработчиками над внедрением надлежащих процессов и систем мониторинга нежелательного поведения с участием человека.

Наша цель — продолжить углубление понимания потенциального вреда API в каждом контексте использования и постоянно совершенствовать наши инструменты и процессы для его минимизации.

Обновлено 18 сентября 2020 г.