Представляем улучшения API точной настройки и расширяем программу пользовательских моделей04.04.2024 03:00

Расширение программы пользовательских моделей

Вспомогательная точная настройка (Assisted Fine-Tuning)

На конференции DevDay в ноябре прошлого года мы анонсировали⁠ программу пользовательских моделей (Custom Model), разработанную для обучения и оптимизации моделей под конкретную предметную область в партнерстве с выделенной группой исследователей OpenAI. С тех пор мы встретились с десятками клиентов, чтобы оценить их потребности в кастомных моделях, и усовершенствовали нашу программу для дальнейшего максимизации производительности.

Сегодня мы официально объявляем о запуске предложения вспомогательной точной настройки в рамках программы пользовательских моделей. Вспомогательная точная настройка — это совместная работа с нашими техническими командами по использованию методов, выходящих за рамки API точной настройки, таких как дополнительные гиперпараметры и различные методы эффективной настройки параметров (PEFT) в более крупном масштабе. Это особенно полезно для организаций, которым требуется поддержка в настройке эффективных конвейеров обучающих данных, систем оценки, а также индивидуальных параметров и методов для максимизации производительности модели для их конкретного сценария использования или задачи.

Например, SK Telecom⁠, телекоммуникационный оператор, обслуживающий более 30 миллионов абонентов в Южной Корее, захотел настроить модель так, чтобы она стала экспертом в области телекоммуникаций с первоначальным упором на обслуживание клиентов. Они работали с OpenAI над точной настройкой GPT‑4 для улучшения ее производительности в телекоммуникационных диалогах на корейском языке. В течение нескольких недель SKT и OpenAI добились значительного улучшения производительности в задачах обслуживания клиентов телекоммуникационной компании: увеличение качества суммирования диалогов на 35%, увеличение точности распознавания намерений на 33% и рост показателей удовлетворенности с 3,6 до 4,5 (из 5) при сравнении дообученной модели с GPT‑4.

Специально обученная модель (Custom-Trained Model)

В некоторых случаях организациям необходимо обучить специализированную модель с нуля, которая понимает их бизнес, отрасль или предметную область. Полностью кастомно обученные модели прививают новые знания из определенной предметной области путем изменения ключевых этапов процесса обучения модели с использованием новых методов промежуточного (mid-training) и пост-обучения (post-training). Организации, которые добиваются успеха с полностью кастомной моделью, часто обладают большими объемами проприетарных данных — миллионами примеров или миллиардами токенов, — которые они хотят использовать, чтобы обучить модель новым знаниям или сложному, уникальному поведению для высокоспецифичных сценариев использования.

Например, Harvey⁠, юридический ИИ-инструмент для адвокатов, заключил партнерство с OpenAI для создания специально обученной большой языковой модели для прецедентного права⁠. Хотя базовые модели сильны в рассуждениях, им не хватало обширных знаний истории судебных прецедентов и других сведений, необходимых для юридической работы. Опробовав инженерию промптов, RAG и точную настройку, Harvey поработала с нашей командой, чтобы добавить в модель необходимую глубину контекста — объем данных, эквивалентный 10 миллиардам токенов. Наша команда модифицировала каждый шаг процесса обучения модели: от доменно-специфичного промежуточного обучения до настройки процессов пост-обучения и интеграции отзывов профессиональных адвокатов. Получившаяся модель продемонстрировала увеличение фактических ответов на 83%, а юристы предпочитали результаты работы кастомной модели выходам GPT‑4 в 97% случаев.

Что ждет кастомизацию моделей в будущем

Мы верим, что в будущем подавляющее большинство организаций будут разрабатывать индивидуальные модели, персонализированные под их отрасль, бизнес или сценарий использования. Благодаря наличию множества методов создания кастомных моделей организации любого размера могут разрабатывать персонализированные решения, чтобы извлекать более значимый и конкретный эффект от внедрения искусственного интеллекта. Главное — четко определить рамки сценария использования, спроектировать и внедрить системы оценки, выбрать правильные методы и быть готовыми к итерациям с течением времени для достижения оптимальной производительности модели.

С OpenAI большинство организаций могут быстро добиться значимых результатов с помощью API самостоятельной точной настройки. Для тех организаций, которым требуется более глубокое дообучение моделей или внедрение новых доменно-специфичных знаний, наши программы пользовательских моделей могут оказать помощь.

Посетите нашу документацию по API точной настройки⁠, чтобы начать дообучение наших моделей.