Тонкая настройка GPT‑3.5 Turbo и обновления API22.08.2023 07:00

Тонкая настройка (fine-tuning) для GPT‑3.5 Turbo уже доступна, а настройка для GPT‑4 появится этой осенью. Это обновление предоставляет разработчикам возможность кастомизировать модели для достижения лучших результатов в своих сценариях использования и запускать эти кастомизированные модели в масштабе. Ранние тесты показали, что донастроенная версия GPT‑3.5 Turbo может не уступать базовым возможностям уровня GPT‑4 или даже превосходить их в определенных узких задачах. Как и в случае со всеми нашими API, данные, отправляемые в API тонкой настройки и получаемые из него, принадлежат клиенту и не используются OpenAI⁠ или любой другой организацией для обучения других моделей.

Сценарии использования тонкой настройки

С момента выпуска GPT‑3.5 Turbo разработчики и компании просили предоставить возможность настраивать модель для создания уникального пользовательского опыта. С этим запуском разработчики могут применять обучение с учителем, чтобы модель лучше работала в их специфических сценариях.

В нашей закрытой бета-версии клиенты, использующие тонкую настройку, смогли существенно улучшить производительность моделей в типичных сценариях, таких как:

• Улучшенная управляемость: Тонкая настройка позволяет заставить модель точнее следовать инструкциям — например, делать ответы лаконичными или всегда отвечать на определенном языке. В частности, разработчики могут использовать тонкую настройку, чтобы модель всегда отвечала по-немецки при соответствующем запросе.
• Надежное форматирование выводов: Тонкая настройка повышает способность модели последовательно форматировать ответы — важнейший аспект для приложений, требующих определенного формата вывода, таких как автодополнение кода или составление вызовов API. Разработчик может использовать тонкую настройку для более надежного преобразования пользовательских запросов в высококачественные фрагменты JSON, которые можно использовать в собственных системах.
• Индивидуальный тон: Тонкая настройка — отличный способ отточить качественное восприятие вывода модели, например ее тон, чтобы он лучше соответствовал стилю бренда компании. Компания с узнаваемым стилем бренда может использовать тонкую настройку, чтобы модель точнее соответствовала ее тональности.

Помимо повышения производительности, тонкая настройка также позволяет компаниям сокращать свои промпты, обеспечивая при этом сопоставимое качество работы. Тонкая настройка GPT‑3.5 Turbo также может обрабатывать 4 тыс. токенов — вдвое больше, чем наши предыдущие донастроенные модели. Ранние тестировщики смогли уменьшить размер промптов до 90%, зашив инструкции в саму модель, что ускорило каждый вызов API и снизило затраты.

Тонкая настройка наиболее эффективна в сочетании с другими методами⁠, такими как промпт-инжиниринг, извлечение информации и вызов функций. Ознакомьтесь с нашим руководством по тонкой настройке⁠, чтобы узнать больше. Поддержка тонкой настройки с вызовом функций и gpt-3.5-turbo-16k появится позже этой осенью.

Безопасность

Для нас очень важно, чтобы развертывание тонкой настройки было безопасным. Чтобы сохранить функции безопасности исходной модели в процессе тонкой настройки, обучающие данные проходят через наш Moderation API и систему модерации на базе GPT‑4 для выявления небезопасных данных, которые противоречат нашим стандартам безопасности.

Цены

Стоимость тонкой настройки делится на две составляющие: начальная стоимость обучения и стоимость использования:

• Обучение: $0,008 / 1 тыс. токенов
• Входные данные при использовании: $0,012 / 1 тыс. токенов
• Выходные данные при использовании: $0,016 / 1 тыс. токенов

Например, для задачи тонкой настройки gpt-3.5-turbo с файлом обучения объемом 100 000 токенов, обученной за 3 эпохи, ожидаемая стоимость составит $2,40.

Обновленные модели GPT-3

В июле мы объявили⁠, что оригинальные базовые модели GPT‑3 (ada, babbage, curie и davinci) будут отключены 4 января 2024 года. Сегодня мы делаем доступными babbage-002 и davinci-002 в качестве замен для этих моделей — как в виде базовых, так и донастроенных. Клиенты могут получить доступ к этим моделям через Completions API⁠.

Эти модели можно донастраивать с помощью нашей новой эндпоинт-точки API /v1/fine_tuning/jobs. Этот новый эндпоинт предлагает пагинацию и большую расширяемость для поддержки будущей эволюции API тонкой настройки. Переход с /v1/fine-tunes на обновленный эндпоинт прост, и более подробную информацию можно найти в нашем новом руководстве по тонкой настройке⁠. При этом старый эндпоинт /v1/fine-tunes устаревает и будет отключен 4 января 2024 года.

Цены на базовые и донастроенные модели GPT‑3 следующие:

Andrea Vallone, Arvind Neelakantan, Cindy Yong, Colin Jarvis, Denny Jin, Florencia Leoni Aleman, Henry Head, Ilan Bigio, Jeff Harris, Jessica Shieh, Juston Forte, Kim Malfacini, Lauren Workman, Lilian Weng, Olivier Godement, Sherwin Wu, Shyamal Anadkat, Vik Goel, Yuchen He