Представляем среду выполнения с сохранением состояния для агентов в Amazon Bedrock

Introducing_the_Stateful_Runtime_for_Age

ИИ-агенты отлично справляются с задачами рассуждения. Гораздо сложнее обстоят дела с эксплуатационной стороной: надежным выполнением многоэтапных процессов с течением времени, с использованием реальных инструментов и систем, а также при наличии надлежащих элементов управления.

Сегодня мы упрощаем эту задачу для клиентов благодаря партнерству и совместному сотрудничеству с Amazon для создания новой среды выполнения с сохранением состояния (Stateful Runtime Environment), которая работает нативно в Amazon Bedrock. Клиенты AWS получат доступ к среде выполнения на базе моделей OpenAI, оптимизированной для инфраструктуры AWS и адаптированной под рабочие процессы агентов, обладающей необходимой для промышленного использования стабильностью, надежностью и средствами управления.

Упрощение запуска агентов в продакшн

Многие прототипы агентов на базе не сохраняющих состояние (stateless) API подходят лишь для простых сценариев: один промпт, один ответ, возможно, один вызов инструмента. Рабочие процессы в продакшене устроены иначе. Реальные сценарии разворачиваются во множестве шагов, требуют контекста от предыдущих действий, зависят от результатов работы нескольких инструментов, согласований и системного состояния, а также нуждаются в надежных защитных механизмах в безопасных средах.

Stateless API требуют самостоятельного создания поддерживающего уровня оркестрации для агентов. На плечи команд разработки ложится задача продумывания того, как хранятся состояния, как вызываются инструменты, как обрабатываются ошибки и как безопасно возобновляются долго выполняющиеся задачи.

Среда выполнения с сохранением состояния разработана совместными усилиями для снижения этой нагрузки. Она работает внутри вашей среды AWS и оптимизирована для взаимодействия с сервисами AWS. Теперь вместо того, чтобы вручную объединять разрозненные запросы для достижения результата, ваши агенты автоматически выполняют сложные шаги с «рабочим контекстом», который сохраняет память и историю, состояние инструментов и рабочих процессов, использование среды, а также границы идентификации и разрешений.

Что это дает

Теперь стало проще, чем когда-либо, реализовывать такие решения, как мультиязычная поддержка клиентов, рабочие процессы операций продаж, внутренняя ИТ-автоматизация и финансовые процессы с этапами согласования и аудита.

Ускорение выхода многоэтапных рабочих процессов в продакшн

Когда среда выполнения берет на себя постоянную оркестрацию и управление состоянием на разных этапах, команды могут сосредоточиться на самом рабочем процессе и бизнес-логике, а не на создании вспомогательного кода.

Лучшая адаптация для долгосрочных задач

Задачи с сохранением состояния спроектированы так, чтобы выполняться надежно с течением времени, сохраняя контекст и границы контроля, необходимые для многоэтапного выполнения.

Развертывание и управление в среде AWS

Среда выполнения спроектирована для работы внутри инфраструктуры AWS клиентов, что позволяет легко соблюдать существующие требования безопасности, интеграции инструментов и правила управления.

С чего начать

Среда выполнения с сохранением состояния в Amazon Bedrock станет доступна в ближайшее время. Если вы хотите узнать, как это поможет вашему бизнесу на пути внедрения ИИ, обратитесь к своей команде OpenAI или оставьте заявку на обратную связь.

Имя *
Фамилия *
Электронная почта *
Номер телефона *
Название компании *
Размер компании *
Можете ли вы рассказать подробнее о потребностях и проблемах вашего бизнеса?

Максимум 500 символов

Я бы хотел (а) получать от OpenAI маркетинговые сообщения по электронной почте о продуктах, сервисах и мероприятиях компании. Если вы не хотите получать маркетинговые сообщения, снимите этот флажок.

Автор

OpenAI

Полный текст статьи читайте на OpenAI