Представляем среду выполнения с сохранением состояния для агентов в Amazon Bedrock

ИИ-агенты отлично справляются с задачами рассуждения. Гораздо сложнее обстоят дела с эксплуатационной стороной: надежным выполнением многоэтапных процессов с течением времени, с использованием реальных инструментов и систем, а также при наличии надлежащих элементов управления.
Сегодня мы упрощаем эту задачу для клиентов благодаря партнерству и совместному сотрудничеству с Amazon для создания новой среды выполнения с сохранением состояния (Stateful Runtime Environment), которая работает нативно в Amazon Bedrock. Клиенты AWS получат доступ к среде выполнения на базе моделей OpenAI, оптимизированной для инфраструктуры AWS и адаптированной под рабочие процессы агентов, обладающей необходимой для промышленного использования стабильностью, надежностью и средствами управления.
Упрощение запуска агентов в продакшн
Многие прототипы агентов на базе не сохраняющих состояние (stateless) API подходят лишь для простых сценариев: один промпт, один ответ, возможно, один вызов инструмента. Рабочие процессы в продакшене устроены иначе. Реальные сценарии разворачиваются во множестве шагов, требуют контекста от предыдущих действий, зависят от результатов работы нескольких инструментов, согласований и системного состояния, а также нуждаются в надежных защитных механизмах в безопасных средах.
Stateless API требуют самостоятельного создания поддерживающего уровня оркестрации для агентов. На плечи команд разработки ложится задача продумывания того, как хранятся состояния, как вызываются инструменты, как обрабатываются ошибки и как безопасно возобновляются долго выполняющиеся задачи.
Среда выполнения с сохранением состояния разработана совместными усилиями для снижения этой нагрузки. Она работает внутри вашей среды AWS и оптимизирована для взаимодействия с сервисами AWS. Теперь вместо того, чтобы вручную объединять разрозненные запросы для достижения результата, ваши агенты автоматически выполняют сложные шаги с «рабочим контекстом», который сохраняет память и историю, состояние инструментов и рабочих процессов, использование среды, а также границы идентификации и разрешений.
Что это дает
Теперь стало проще, чем когда-либо, реализовывать такие решения, как мультиязычная поддержка клиентов, рабочие процессы операций продаж, внутренняя ИТ-автоматизация и финансовые процессы с этапами согласования и аудита.
Ускорение выхода многоэтапных рабочих процессов в продакшн
Когда среда выполнения берет на себя постоянную оркестрацию и управление состоянием на разных этапах, команды могут сосредоточиться на самом рабочем процессе и бизнес-логике, а не на создании вспомогательного кода.
Лучшая адаптация для долгосрочных задач
Задачи с сохранением состояния спроектированы так, чтобы выполняться надежно с течением времени, сохраняя контекст и границы контроля, необходимые для многоэтапного выполнения.
Развертывание и управление в среде AWS
Среда выполнения спроектирована для работы внутри инфраструктуры AWS клиентов, что позволяет легко соблюдать существующие требования безопасности, интеграции инструментов и правила управления.
С чего начать
Среда выполнения с сохранением состояния в Amazon Bedrock станет доступна в ближайшее время. Если вы хотите узнать, как это поможет вашему бизнесу на пути внедрения ИИ, обратитесь к своей команде OpenAI или оставьте заявку на обратную связь.
Максимум 500 символов
Автор
Полный текст статьи читайте на OpenAI
