Ростех с помощью нового ПО научился ловить «теневой ИИ» на рабочих машинах
- RT Protect EDR фиксирует установленные программы и их действия, выявляя ИИ-агентов на ПК сотрудников без контроля СИБ.
- «Контроль ИИ-агентов» отслеживает запуск, поведение, пользователя и доступ к информации; «Теневой ИИ» — несанкционированные клиенты, локальные модели и каналы передачи данных.
- «РТ-ИБ» изучила Claude Code, OpenAI Codex, GitHub Copilot CLI, Gemini CLI, Cursor, Cline, OpenHands и Ollama.
Почему это важно: Это помогает контролировать риск утечки: агенты действуют от имени работника и могут получить доступ к репозиториям, ключам и конфиденциальной информации.
В Госкорпорации Ростех появился комплекс ПО, который помогает засечь ИИ-агентов, работающих на ПК сотрудников без присмотра службы информационной безопасности (СИБ). Речь о продукте RT Protect EDR: он фиксирует не только установленное ПО, но и то, чем оно занято. Для компаний это способ держать под контролем риски утечки, которые возникают, когда ИИ получает допуск к данным компании.
Изображение: ChatGPT
Работники всё чаще ставят ИИ-агентов прямо на рабочие ПК — писать код, решать иные задачи. Такие ассистенты умеют считывать смысл проекта, менять документы, инициировать команды, обращаться к внешним и локальным моделям, подключать плагины и автоматизировать браузер. Удобно. Но именно отсюда растут и риски.
Глава «РТ-ИБ» Дмитрий Прендецкий отметил, что само задействование инструментов ИИ — ещё не нарушение. Но агент действует от имени работника и отчасти получает его права, а значит, может добраться до репозиториев, ключей допуска и конфиденциальной информации. Поэтому важно понимать, что он делает и на кого «работает».
Сотрудники «РТ-ИБ» изучили поведение популярных инструментов ИИ: Claude Code, OpenAI Codex, GitHub Copilot CLI, Gemini CLI, Cursor, Cline и OpenHands, а также локальную среду для запуска моделей Ollama. Они смотрели, как те ведут себя на машине: какие процессы поднимают, к каким файлам и папкам обращаются и куда отправляют свои запросы. Из этих наблюдений и родились признаки, по которым система опознаёт активность ИИ.
Главный вывод: поймать агента только по трафику в сети или по факту установленной ПО не получится. Локальные модели работают прямо на ПК, не выходя наружу, а сами агенты запускаются самыми различными методами и далеко не всегда попадают в список корпоративного софта.
На основе тестов разработчики собрали два пакета экспертизы для RT Protect EDR — для обнаружения и для расследования. Первый, «Контроль ИИ-агентов», отслеживает инициирование агента и его поведение на хосте, привязывает его к аккаунту пользователя и фиксирует, к какой информации он обращается. Второй, «Теневой ИИ», отвечает за несанкционированные клиенты, локальные модели и каналы передачи данных с внешними сервисами.
