Общая доступность API GPT‑4 и прекращение поддержки старых моделей в API Completions24.04.2024 00:00

Обновление от 24 апреля 2024 г.: Название API ChatGPT было упразднено. Упоминания ChatGPT API в этой статье относятся к GPT‑3.5 Turbo API.

Начиная с сегодняшнего дня, все платные клиенты API имеют доступ к GPT‑4. В марте мы представили OpenAI API⁠, а в начале этого месяца выпустили первые обновления⁠ для моделей на базе чата. Мы видим будущее, в котором модели на основе чата смогут поддерживать любые сценарии использования. Сегодня мы объявляем о плане прекращения поддержки (депрекации) старых моделей Completions API и рекомендуем пользователям перейти на Chat Completions API.

Общая доступность GPT-4 API

GPT‑4 — наша самая мощная модель. С марта миллионы разработчиков запросили доступ к GPT‑4 API, и спектр инновационных продуктов⁠, использующих GPT‑4, растет с каждым днем. Сегодня все существующие разработчики API с историей успешных платежей получают доступ к GPT‑4 API с контекстом 8K. Мы планируем открыть доступ для новых разработчиков до конца этого месяца, а затем начать увеличивать лимиты запросов в зависимости от доступных вычислительных мощностей.

Основываясь на стабильности и готовности этих моделей к использованию в продакшене, мы также делаем общедоступными API GPT‑3.5 Turbo, DALL·E и Whisper. Мы работаем над тем, чтобы сделать безопасную тонкую настройку (fine-tuning) доступной для GPT‑4 и GPT‑3.5 Turbo, и ожидаем появления этой функции позже в этом году.

Переход от дополнения текста (text completions) к дополнениям чата (chat completions)

Мы представили Chat Completions API⁠ в марте, и сейчас на него приходится 97% использования GPT через наше API.

Первоначальный Completions API был представлен в июне 2020 года для обеспечения свободного текстового промпта при взаимодействии с нашими языковыми моделями. С тех пор мы поняли, что часто можем добиваться лучших результатов с помощью более структурированного интерфейса промптов. Парадигма на основе чата доказала свою эффективность, справляясь с подавляющим большинством предыдущих сценариев использования и новых разговорных задач, обеспечивая при этом более высокую гибкость и специфичность. В частности, структурированный интерфейс Chat Completions API (например, системные сообщения, вызов функций) и возможности многошагового диалога позволяют разработчикам создавать интерактивные сценарии и широкий спектр задач на генерацию текста. Это также помогает снизить риск атак путем внедрения промптов (prompt injection), поскольку пользовательский контент может быть структурно отделен от инструкций.

Мы планируем и дальше направлять основные усилия по развитию платформы в эту сторону, так как верим, что это обеспечит более мощный и удобный интерфейс для разработчиков. Мы работаем над тем, чтобы быстро закрыть последние оставшиеся пробелы Chat Completions API, такие как логарифмические вероятности для токенов дополнения и повышенная управляемость для снижения «болтливости» ответов.

Прекращение поддержки старых моделей в Completions API

В рамках наших усилий по инвестированию в Chat Completions API и оптимизации вычислительных мощностей через 6 месяцев мы выведем из эксплуатации некоторые из наших старых моделей, использующих Completions API. Хотя этот API останется доступным, начиная с сегодняшнего дня мы пометим его как «устаревший» (legacy) в нашей документации для разработчиков. Мы планируем сосредоточить будущие улучшения моделей и продуктов на Chat Completions API и не планируем публично выпускать новые модели, использующие Completions API.

Начиная с 4 января 2024 года старые модели дополнений⁠ больше не будут доступны и будут заменены следующими моделями:

Приложения, использующие стабильные имена базовых моделей GPT‑3 (ada, babbage, curie, davinci), будут автоматически обновлены до новых моделей, указанных выше, 4 января 2024 года. Новые модели также будут доступны в ближайшие недели для раннего тестирования путем указания следующих имен моделей в вызовах API: babbage-002, davinci-002.

Разработчикам, использующим другие старые модели дополнений (такие как text-davinci-003), потребуется вручную обновить свою интеграцию до 4 января 2024 года, указав gpt-3.5-turbo-instruct в параметре «model» своих запросов API. gpt-3.5-turbo-instruct — это модель в стиле InstructGPT, обученная аналогично text-davinci-003. Эта новая модель является прямой заменой в Completions API и будет доступна в ближайшие недели для раннего тестирования.

Разработчики, желающие продолжить использование своих дообученных (fine-tuned) моделей после 4 января 2024 года, должны будут выполнить дообучение замен на базе новых моделей GPT‑3 (babbage-002, davinci-002) или более новых моделей (gpt-3.5-turbo, gpt-4). Как только эта функция станет доступна позже в этом году, мы предоставим приоритетный доступ к тонкой настройке GPT‑3.5 Turbo и GPT‑4 пользователям, которые ранее дообучали старые модели. Мы понимаем, что миграция с моделей, настроенных на ваших собственных данных, — сложная задача. Мы окажем поддержку пользователям, которые ранее дообучали модели, чтобы сделать этот переход максимально плавным.

В ближайшие недели мы свяжемся с разработчиками, которые недавно использовали эти старые модели, и предоставим дополнительную информацию, как только новые модели будут готовы к раннему тестированию.

Прекращение поддержки старых моделей эмбеддингов

Пользователям устаревших моделей встраивания (embeddings), например text-search-davinci-doc-001, необходимо будет перейти на text-embedding-ada-002 до 4 января 2024 года. Мы выпустили text-embedding-ada-002 в декабре 2022 года и обнаружили, что она работает эффективнее и обладает большей функциональностью по сравнению с предыдущими моделями. Сегодня на долю text-embedding-ada-002 приходится 99,9% всего использования API встраивания.

Мы понимаем, что это серьезное изменение для разработчиков, использующих эти старые модели. Отказ от поддержки этих моделей — нелегкое решение для нас. Мы покроем финансовые расходы пользователей на повторное встраивание контента с помощью этих новых моделей. Мы свяжемся с затронутыми пользователями в ближайшие дни.

Прекращение поддержки Edits API

Пользователям Edits API и связанных с ним моделей (например, text-davinci-edit-001 или code-davinci-edit-001) необходимо будет перейти на GPT-3.5 Turbo до 4 января 2024 года. Бета-версия Edits API была ранним экспериментальным интерфейсом, призванным позволить разработчикам возвращать отредактированную версию подсказки (промпта) на основе инструкций. Мы учли отзывы об Edits API при разработке gpt-3.5-turbo и Chat Completions API, которые теперь можно использовать для тех же целей: