Microsoft предупреждает: ИИ-агенты могут стать «двойными агентами» в корпорациях
Согласно отчёту Microsoft Cyber Pulse, более 80% компаний из списка Fortune 500 используют ИИ-агентов для автоматизации задач — от продаж до HR. Однако 29% агентов функционируют без одобрения IT-отдела или службы безопасности, а только 47% организаций применяют специализированные инструменты защиты.
Microsoft вводит термин «двойные агенты» для описания риска: ИИ-системы, изначально созданные для пользы компании, могут быть скомпрометированы через инъекции или закладки в моделях и начать действовать против интересов организации. Внутренние тесты Microsoft показали, что такие агенты способны получать несанкционированный доступ к данным и выполнять вредоносные команды.
«Вся эта инновация происходит на фоне серьёзных угроз. Как когда-то был риск инсайдеров среди сотрудников, теперь мы должны не допустить его среди агентов», — отмечает Васу Джаккал, вице-президент Microsoft Security.
Иллюстрация: SoraДля решения проблемы Microsoft представила Agent 365 — платформу для централизованного наблюдения, аудита и управления ИИ-агентами по принципу zero trust. Система регистрирует всех агентов, присваивает уникальные идентификаторы, отслеживает аномалии и позволяет блокировать подозрительных агентов в реальном времени.
Agent 365 интегрируется с Microsoft Defender, Entra и Purview, расширяя существующие механизмы защиты на виртуальных пользователей. Все действия агентов фиксируются для аудита, а доступ к данным регулируется политиками минимальных привилегий.
Пакет Microsoft 365 Enterprise 7 (E7) объединяет Agent 365, Copilot и расширенные средства безопасности в единую подписку за $99 в месяц на пользователя. Корпорация считает, что такой подход позволит компаниям быстрее внедрять защиту и снижать операционные риски.
© iXBT
