Настройка GPT‑3 для вашего приложения14.12.2021 08:00

Теперь разработчики могут дообучать GPT‑3 на собственных данных, создавая кастомизированную версию под конкретные задачи своего приложения. Такая настройка делает GPT‑3 надежной для самых разных сценариев использования, а также удешевляет и ускоряет работу модели.

Вы можете использовать существующий набор данных практически любого формата и размера или постепенно добавлять данные на основе отзывов пользователей. Благодаря дообучению один из клиентов API смог увеличить количество корректных результатов с 83% до 95%. Другой клиент, добавляя новые данные о своем продукте каждую неделю, снизил уровень ошибок на 50%.

Чтобы начать работу, просто выполните одну команду в интерфейсе командной строки OpenAI, указав подготовленный файл. Ваша пользовательская версия начнет обучение, после чего сразу станет доступна в нашем API.

В прошлом году мы обучили GPT‑3⁠ и сделали её доступной в нашем API⁠. Имея всего несколько примеров, GPT‑3 способна решать самые разные задачи обработки естественного языка⁠ — этот подход называется обучение на малом числе примеров (few-shot learning) или проектирование промптов (prompt design). Настройка GPT‑3 позволяет добиться еще лучших результатов, поскольку вы можете предоставить гораздо больше примеров, чем это возможно при использовании одних лишь промптов.

Требуется менее 100 примеров, чтобы заметить преимущества дообучения GPT‑3, и производительность продолжает расти по мере добавления новых данных. В исследовании, опубликованном в июне прошлого года⁠, мы показали, как дообучение менее чем на 100 примерах может улучшить показатели GPT‑3 в определенных задачах. Мы также выяснили, что каждое удвоение числа примеров обычно приводит к линейному улучшению качества.

На одном из наших самых сложных исследовательских датасетов — задачах по математике для начальной школы⁠ — дообучение GPT‑3 повышает точность в 2–4 раза по сравнению с тем, чего можно достичь с помощью одних лишь промптов.

Настройка GPT‑3 повышает надежность генерации результатов, обеспечивая большую стабильность, на которую можно полагаться в продакшене. Один из клиентов выяснил, что кастомизация GPT‑3 снизила частоту ненадежных ответов с 17% до 5%. Поскольку пользовательские версии GPT‑3 адаптированы под ваше приложение, сами промпты могут быть намного короче, что сокращает расходы и улучшает задержку (latency).

Будь то генерация текста, суммаризация, классификация или любая другая задача обработки естественного языка, с которой способна справиться GPT‑3, ее кастомизация повысит общую эффективность.

Приложения, работающие на базе кастомизированных версий GPT-3

Keeper Tax помогает независимым подрядчикам и фрилансерам разбираться с налогами. После того как клиент подключает свои финансовые счета, Keeper Tax использует различные модели для извлечения текста и классификации транзакций. Используя эти данные, сервис находит легко пропускаемые налоговые вычеты и помогает клиентам подавать налоговые декларации прямо из приложения. Кастомизируя GPT‑3, Keeper Tax может постоянно улучшать результаты. Каждую неделю сервис добавляет около 500 новых обучающих примеров для дообучения своей модели, что приводит к приросту точности примерно на 1% каждую неделю и увеличивает общую точность с 85% до 93%.

Viable помогает компаниям извлекать полезную информацию из отзывов клиентов. Кастомизируя GPT‑3, Viable способна преобразовывать огромные массивы неструктурированных данных в понятные отчеты на естественном языке, выделяя главные жалобы, похвалы, запросы и вопросы клиентов. Настройка GPT‑3 повысила надежность отчетов Viable. Благодаря использованию пользовательской версии GPT‑3 точность суммаризации клиентских отзывов выросла с 66% до 90%. В результате клиенты получают наглядную и интуитивно понятную информацию, необходимую для принятия продуктовых решений.

Sana Labs — мировой лидер в области разработки и применения искусственного интеллекта для обучения. Образовательная платформа Sana обеспечивает персонализированный процесс обучения для бизнеса, используя последние достижения в области машинного обучения для адаптации контента под каждого отдельного пользователя. Дообучив GPT‑3 своими данными, специалисты Sana перешли от грамматически правильных, но общих ответов к высокоточным результатам. Это обеспечило улучшение на 60%, позволив сделать процесс обучения для пользователей принципиально более персонализированным и эффективным.

Elicit — это ИИ-помощник для исследований, который помогает людям напрямую отвечать на исследовательские вопросы, используя выводы из научных публикаций. Инструмент находит наиболее релевантные аннотации в большом массиве научных работ, а затем применяет кастомизированную версию GPT‑3 для формирования утверждения (если таковое имеется), которое статья выдвигает по данному вопросу. Пользовательская версия GPT‑3 превзошла метод промптов по трем важным показателям: результаты стали проще для понимания (улучшение на 24%), точнее (улучшение на 17%) и лучше в целом (улучшение на 33%).

Все клиенты API могут кастомизировать GPT‑3 уже сегодня. Зарегистрируйтесь и начните работу с документацией по дообучению⁠.