OpenAI открыла платный доступ к API ChatGPT для корпоративных клиентов
OpenAI представила API, который позволит любому бизнесу встроить технологию ChatGPT в свои приложения, веб-сайты, продукты и услуги. Доступ к нему будет платным.
Сервис Ask Instacart
Президент компании Грег Брокман отметил, что API основан на той же модели ИИ, что и версия ChatGPT «gpt-3.5-turbo». GPT-3.5 — это самая мощная модель генерации текста, которую OpenAI предлагает на сегодняшний день; версия «turbo» более оптимизированная и отзывчивая.
По словам Брокмана, тариф на её использование составит $0,002 за 1000 токенов, или около 750 слов, при этом API можно будет встраивать в «нечатовые» приложения.
Первыми клиентами продукта станут Snap, Quizlet, Instacart и Shopify.
API ChatGPT лёг в основу My AI, недавно анонсированного чат-бота Snap для подписчиков Snapchat+ и новой функции виртуального репетитора Q-Chat от Quizlet. Shopify использовал API для создания персонализированного помощника для рекомендаций по покупкам, а Instacart — для сервиса данных о продуктах Ask Instacart.
Чтобы избежать некорректных и ложных ответов, OpenAI внедрила язык разметки чата или ChatML. Он передаёт текст API ChatGPT в виде последовательности сообщений вместе с метаданными. Это отличает его от стандартного ChatGPT, который использует необработанный текст, представленный в виде серии токенов. Например, к вопросу «Какие есть интересные идеи для вечеринки на мой 30-й день рождения?» разработчик может добавить дополнительную подсказку, например: «Ты — забавный чат-бот, созданный для того, чтобы помогать пользователям с вопросами, которые они задают. Ты должен отвечать правдиво и весело». В итоге API ChatGPT обработает запрос с учётом этой инструкции.
Кроме того, разработчики начнут чаще обновлять ChatGPT с выпуском gpt-3.5-turbo.
Это даст больше контроля над нагрузкой выделенных мощностей. Клиенты смогут использовать gpt-3.5-turbo с контекстным окном весом до 16 КБ, которые будут принимать в обработку в четыре раза больше токенов, чем стандартная модель ChatGPT. Это позволит вставлять целые страницы текста в вопросе и получать разумные ответы от модели.
Ранее сообщалось, что Microsoft и OpenAI выпустят программное обеспечение, которое поможет крупным компаниям создавать собственных чат-ботов, подобных ChatGPT.
В феврале Microsoft совместно с OpenAI представила новую версию Bing с ИИ на базе чат-бота ChatGPT. До этого компания объявила, что инвестирует в разработчика чат-бота $10 млрд.
Позднее Microsoft анонсировала повышение цен на API Bing в несколько раз.
