SandboxAQ запускает инструменты для тестирования ИИ-агентов и отслеживания расходов на них
- Switch Trust находит корпоративных ИИ-агентов, проверяет уязвимости, включая внедрение промптов, и может блокировать небезопасный контент.
- Switch ROI сопоставляет расходы на агента с результатами и предлагает способы экономии; оба продукта работают с агентами любых поставщиков и бесплатны до пяти агентов.
- Врачи лаборатории MSW при Mount Sinai West используют Switch Trust; Gartner прогнозирует отмену более 40% проектов агентного ИИ к концу 2027 года.
Почему это важно: Инструменты запускаются на фоне трудностей компаний с извлечением пользы из ИИ-агентов и растущей обеспокоенности их безопасностью.
SandboxAQ добавила два продукта на платформу Switch AI. Switch Trust находит ИИ-агентов компании, проверяет их на уязвимость к атакам, например к внедрению промптов, и блокирует небезопасное поведение. Switch ROI отслеживает расходы на каждого агента и сопоставляет их с результатами. Оба продукта бесплатны для использования с числом агентов до пяти.
SandboxAQ запустила два инструмента, которые помогают компаниям проверять, безопасны ли их ИИ-агенты и оправдывают ли они затраты, сообщила компания в понедельник. Switch Trust и Switch ROI входят в платформу Switch AI, запущенную в августе.
Сначала Switch Trust составляет список ИИ-агентов, моделей и инструментов, работающих в системах компании, включая те, о которых её команда безопасности может не знать. Затем инструмент проверяет их на уязвимости и тестирует на устойчивость к атакам, например к внедрению промптов, когда скрытые инструкции заставляют агента вести себя нежелательным образом.
После запуска агента Switch Trust проверяет, какие данные поступают в него и что он передаёт, сообщила компания. Инструмент может блокировать или скрывать утекшие пароли, персональные данные и другой небезопасный контент, а также вести журнал действий каждого агента.
Switch ROI отслеживает расходы на каждого агента и сопоставляет их с результатами — например, с числом закрытых обращений в службу поддержки или автоматизированных задач. Инструмент также предлагает способы сэкономить: например, перенести работу на более дешёвую модель ИИ или отказаться от инструментов, которыми агент никогда не пользуется.
Оба продукта работают с агентами любых поставщиков, сообщила SandboxAQ. Они бесплатны для управления не более чем пятью агентами, говорится в публикации в блоге компании; цены на платные тарифы не указаны.
Мохаммед Абул-Магд, руководитель Switch AI, рассказал, что компания наблюдала, как расходы на ИИ, внедрённый для замены нового сотрудника, в итоге превышали затраты на штатного работника. Лаборатория MSW при больнице Mount Sinai West использует Switch Trust: её врачи создают медицинское программное обеспечение с помощью ИИ-агентов, сообщила SandboxAQ.
Запуск состоялся на фоне того, что многим компаниям не удаётся извлечь пользу из ИИ-агентов. Gartner прогнозирует, что к концу 2027 года будет отменено более 40% проектов в области агентного ИИ. AWS также сообщила, что почти 90% ранних прототипов агентов Amazon так и не были запущены.
Растёт и обеспокоенность вопросами безопасности. Google, JPMorgan и другие компании устранили одну и ту же уязвимость в MCP — распространённом стандарте для подключения агентов к инструментам.
