Новые модели встраивания (embedding) и обновления API
Мы выпускаем новые модели, снижаем цены на GPT‑3.5 Turbo, а также представляем новые возможности для разработчиков по управлению ключами API и отслеживанию использования API. В число новых моделей входят:
- Две новые модели встраивания (embedding)
- Обновленная превью-модель GPT‑4 Turbo
- Обновленная модель GPT‑3.5 Turbo
- Обновленная модель модерации текста
По умолчанию данные, отправляемые в API OpenAI, не используются для обучения или улучшения моделей OpenAI.
Новые модели встраивания по более низким ценам
Мы представляем две новые модели встраивания: меньшую и высокоэффективную модель text-embedding-3-small и более крупную и мощную модель text-embedding-3-large.
Встраивание (embedding)— это последовательность чисел, которая представляет понятия внутри контента, такого как естественный язык или код. Встраивания позволяют моделям машинного обучения и другим алгоритмам легко понимать связи между контентом и выполнять такие задачи, как кластеризация или поиск. Они обеспечивают работу таких функций, как извлечение знаний в ChatGPT и Assistants API, а также множества инструментов для разработчиков на базе дополненной генерации (RAG).
Новая компактная модель текстового встраивания
text-embedding-3-small — это наша новая высокоэффективная модель встраивания, которая представляет собой значительное улучшение по сравнению со своим предшественником, моделью text-embedding-ada-002, выпущенной в декабре 2022 года.
Более высокая производительность. При сравнении text-embedding-ada-002 и text-embedding-3-small средний балл на общепринятом бенчмарке для многоязычного поиска (MIRACL) вырос с 31,4% до 44,0%, в то время как средний балл на общепринятом бенчмарке для англоязычных задач (MTEB) увеличился с 61,0% до 62,3%.
Сниженная цена. Модель text-embedding-3-small также значительно эффективнее нашей предыдущей модели поколения text-embedding-ada-002. Таким образом, цена на text-embedding-3-small снижена в 5 раз по сравнению с text-embedding-ada-002: с $0,0001 до $0,00002 за 1 тыс. токенов.
Мы не прекращаем поддержку модели text-embedding-ada-002, поэтому, хотя мы рекомендуем более новую модель, клиенты могут продолжать использовать модель предыдущего поколения.
Новая крупная модель текстового встраивания: text-embedding-3-large
text-embedding-3-large — это наша новая более крупная модель встраивания следующего поколения, которая создает встраивания размерностью до 3072.
Более высокая производительность. Модель text-embedding-3-large является нашей новой лучшей моделью. При сравнении text-embedding-ada-002 и text-embedding-3-large: на бенчмарке MIRACL средний балл вырос с 31,4% до 54,9%, а на MTEB средний балл увеличился с 61,0% до 64,6%.
Бенчмарк оценки | ada v2 | text-embedding-3-small | text-embedding-3-large |
Среднее MIRACL | 31,4 | 44,0 | 54,9 |
Среднее MTEB | 61,0 | 62,3 | 64,6 |
Стоимость text-embedding-3-large составит $0,00013 за 1 тыс. токенов.
Вы можете узнать больше об использовании новых моделей встраивания в нашем руководстве по встраиваниям.
Встроенная поддержка сокращения встраиваний
Использование более крупных встраиваний, например их хранение в векторном хранилище для поиска, как правило, стоит дороже и требует больше вычислительных ресурсов, памяти и дискового пространства, чем использование меньших встраиваний.
Обе наши новые модели встраивания были обучены с использованием техники
Это обеспечивает очень гибкое использование. Например, при использовании векторного хранилища данных, поддерживающего встраивания размером не более 1024 измерений, разработчики по-прежнему могут использовать нашу лучшую модель встраивания text-embedding-3-large, указав значение 1024 для параметра API dimensions. Это сократит размер встраивания с 3072 измерений, пожертвовав частью точности в обмен на меньший размер вектора.
Другие новые модели и снижение цен
Обновленная модель GPT-3.5 Turbo и снижение цен
На следующей неделе мы представляем новую модель GPT‑3.5 Turbo — gpt-3.5-turbo-0125 — и уже в третий раз за последний год снижаем цены на GPT‑3.5 Turbo, чтобы помочь нашим клиентам масштабироваться. Цены на входные данные для новой модели снижены на 50% (до $0,0005 за 1 тыс. токенов), а цены на выходные данные — на 25% (до $0,0015 за 1 тыс. токенов). Эта модель также получит различные улучшения, включая более высокую точность ответов в запрашиваемых форматах и исправление ошибки, которая вызывала проблемы с кодировкой текста при вызове функций на языках, отличных от английского.
Клиенты, использующие несвязанный псевдоним модели gpt-3.5-turbo, будут автоматически обновлены с gpt-3.5-turbo-0613 на gpt-3.5-turbo-0125 через две недели после запуска этой модели.
Обновленная превью-модель GPT-4 Turbo
Более 70% запросов от пользователей API GPT‑4 перешли на GPT‑4 Turbo с момента ее выпуска, поскольку разработчики оценили ее обновленные данные по срезу знаний, увеличенное окно контекста на 128 тыс. токенов и более низкие цены.
Сегодня мы выпускаем обновленную превью-модель GPT‑4 Turbo — gpt-4-0125-preview. Эта модель выполняет такие задачи, как генерация кода, более тщательно, чем предыдущая превью-модель, и призвана сократить случаи «лености», когда модель не завершает задачу до конца. Новая модель также включает исправление ошибки, влияющей на генерацию в кодировке UTF-8 на языках, отличных от английского.
Для тех, кто хочет автоматически обновляться до новых превью-версий GPT‑4 Turbo, мы также представляем новый псевдоним модели gpt-4-turbo-preview, который всегда будет указывать на нашу самую свежую превью-модель GPT‑4 Turbo.
В ближайшие месяцы мы планируем запустить GPT‑4 Turbo с поддержкой работы с изображениями (vision) для общего доступа.
Обновленная модель модерации
Бесплатный API модерации позволяет разработчикам выявлять потенциально опасный текст. В рамках нашей постоянной работы по обеспечению безопасности мы выпускаем text-moderation-007 — нашу самую надежную модель модерации на сегодняшний день. Псевдонимы text-moderation-latest и text-moderation-stable были обновлены и теперь указывают на нее. Вы можете узнать больше о создании безопасных систем ИИ в нашем руководстве по лучшим практикам безопасности.
Новые способы отслеживания использования API и управления ключами API
Мы запускаем два улучшения платформы, чтобы предоставить разработчикам больше возможностей контроля использования и управления ключами API.
Во-первых, разработчики теперь могут назначать разрешения ключам API на странице ключей API. Например, ключу можно назначить доступ только для чтения для работы внутренней панели мониторинга или ограничить его доступ только определенными конечными точками.
Во-вторых, панель мониторинга использования и функция экспорта данных об использовании теперь предоставляют метрики на уровне отдельных ключей API после включения отслеживания. Это позволяет легко просматривать статистику использования в разрезе конкретных функций, команд, продуктов или проектов, просто используя отдельные ключи API для каждого из них.
В ближайшие месяцы мы планируем и дальше улучшать возможности разработчиков по просмотру использования API и управлению ключами API, особенно в крупных организациях.
Последние новости об API OpenAI можно узнать, подписавшись на нас в X по адресу @OpenAIDevs.
Сноски
Автор
Благодарности
Джунтанг Чжуан, Пол Балтеску, Джой Цзяо, Арвинд Нилакантан, Эндрю Браунстин, Джефф Харрис, Логан Килпатрик, Лерер Патак, Энох Чунг, Тед Сандерс, Ютянь Лю, Анушри Агравал, Эндрю Пенг, Иан Кивличан, Мехмет Ятбаз, Мадлен Бойд, Анна-Луиза Бракман, Флоренсия Леони Алеман, Генри Хед, Молли Лин, Меган Шах, Челси Карлсон, Сэм Тойзер, Райан Грин, Элисон Хармон, Денни Джин, Каролис Косас, Мари Инудзука, Питер Баккум, Баррет Зоф, Люк Метц, Цзяи Вэн, Рэндалл Лин, Яш Патил, Мианна Чен, Эндрю Кондрич, Брайдон Истман, Лиам Федус, Джон Шульман, Влад Фоменко, Андрей Карпати, Эйдан Кларк, Оуэн Кэмпбелл-Мур
Полный текст статьи читайте на OpenAI
