Представляем улучшения API точной настройки и расширяем программу пользовательских моделей
Расширение программы пользовательских моделей
Вспомогательная точная настройка (Assisted Fine-Tuning)
На конференции DevDay в ноябре прошлого года мы анонсировали программу пользовательских моделей (Custom Model), разработанную для обучения и оптимизации моделей под конкретную предметную область в партнерстве с выделенной группой исследователей OpenAI. С тех пор мы встретились с десятками клиентов, чтобы оценить их потребности в кастомных моделях, и усовершенствовали нашу программу для дальнейшего максимизации производительности.
Сегодня мы официально объявляем о запуске предложения вспомогательной точной настройки в рамках программы пользовательских моделей. Вспомогательная точная настройка — это совместная работа с нашими техническими командами по использованию методов, выходящих за рамки API точной настройки, таких как дополнительные гиперпараметры и различные методы эффективной настройки параметров (PEFT) в более крупном масштабе. Это особенно полезно для организаций, которым требуется поддержка в настройке эффективных конвейеров обучающих данных, систем оценки, а также индивидуальных параметров и методов для максимизации производительности модели для их конкретного сценария использования или задачи.
Например, SK Telecom, телекоммуникационный оператор, обслуживающий более 30 миллионов абонентов в Южной Корее, захотел настроить модель так, чтобы она стала экспертом в области телекоммуникаций с первоначальным упором на обслуживание клиентов. Они работали с OpenAI над точной настройкой GPT‑4 для улучшения ее производительности в телекоммуникационных диалогах на корейском языке. В течение нескольких недель SKT и OpenAI добились значительного улучшения производительности в задачах обслуживания клиентов телекоммуникационной компании: увеличение качества суммирования диалогов на 35%, увеличение точности распознавания намерений на 33% и рост показателей удовлетворенности с 3,6 до 4,5 (из 5) при сравнении дообученной модели с GPT‑4.
Специально обученная модель (Custom-Trained Model)
В некоторых случаях организациям необходимо обучить специализированную модель с нуля, которая понимает их бизнес, отрасль или предметную область. Полностью кастомно обученные модели прививают новые знания из определенной предметной области путем изменения ключевых этапов процесса обучения модели с использованием новых методов промежуточного (mid-training) и пост-обучения (post-training). Организации, которые добиваются успеха с полностью кастомной моделью, часто обладают большими объемами проприетарных данных — миллионами примеров или миллиардами токенов, — которые они хотят использовать, чтобы обучить модель новым знаниям или сложному, уникальному поведению для высокоспецифичных сценариев использования.
Например, Harvey, юридический ИИ-инструмент для адвокатов, заключил партнерство с OpenAI для создания специально обученной большой языковой модели для прецедентного права. Хотя базовые модели сильны в рассуждениях, им не хватало обширных знаний истории судебных прецедентов и других сведений, необходимых для юридической работы. Опробовав инженерию промптов, RAG и точную настройку, Harvey поработала с нашей командой, чтобы добавить в модель необходимую глубину контекста — объем данных, эквивалентный 10 миллиардам токенов. Наша команда модифицировала каждый шаг процесса обучения модели: от доменно-специфичного промежуточного обучения до настройки процессов пост-обучения и интеграции отзывов профессиональных адвокатов. Получившаяся модель продемонстрировала увеличение фактических ответов на 83%, а юристы предпочитали результаты работы кастомной модели выходам GPT‑4 в 97% случаев.
