Microsoft разработала инструмент для проверки защищённости ИИ-систем
Microsoft продолжает совершенствовать свою инфраструктуру кибербезопасности и призывает своих партнёров делать то же самое. По мнению софтверного гиганта, вопросу безопасности платформ, использующих технологии искусственного интеллекта, сегодня уделяется недостаточно внимания, поэтому компания разработала специальный инструмент для тестирования защищённости подобного рода систем. Он получил название Counterfit.
Counterfit — это автоматизированный инструмент с открытым исходным кодом для тестирования безопасности ИИ-систем организаций. Задача инструмента — предоставить той или иной компании, использующей технологии ИИ, уверенность в том, что их ИИ-система надёжно защищена от внешних атак. По словам Microsoft, из 28 опрошенных организаций 25 заявили, что у них нет нужных механизмов для защиты своей ИИ-инфраструктуры, а их специалисты по цифровой безопасности недостаточно оснащены средствами для противостояния таким угрозам.
Изначально Counterfit представлял собой набор специальных скриптов, которые можно было использовать для симуляции атак на различные ИИ-модели. Microsoft сперва применяла эти скрипты для внутренних тестов, однако со временем Counterfit развился в автоматизированный инструмент, позволяющий проводить тестовые атаки сразу на несколько ИИ-моделей. Компания заявляет, что Counterfit стал неотъемлемой частью программы тестирования безопасности как для её уже использующихся ИИ-платформ, так и продуктов, находящихся в разработке.
Преимущество Counterfit заключается в том, что его можно применять в любой среде, на любых ИИ-моделях. Его можно использовать для проверки эффективности защищённости ИИ-систем на локальном сервере, на границе между сервером и сетью, а также на любых облачных платформах, где применяются ИИ-модели, основывающиеся на обработке входящих данных, практических в любых форматах кроме текста и изображений.
В компании указывают, что Counterfit будет прост в использовании для специалистов по цифровой безопасности, работающих с такими инструментами, как Metasploit или PowerShell Empyre. Его можно применять для проверки устойчивости защиты на проникновение, а также для сканирования уязвимостей. В ходе симуляции атаки на ИИ-модель Counterfit создаёт логи, с которыми в дальнейшем могут ознакомиться специалисты, а затем использовать эту информацию для усовершенствования своих средств безопасности для ИИ.
© 3DNews
