Невыпущенная модель ИИ от Anthropic сама научилась взламывать Chrome, Safari, Windows и Linux
- Экспериментальная модель Anthropic связала несколько уязвимостей в цепочки и описала пять сценариев для Chrome, Safari, Android, Windows и Linux.
- В лабораторном тесте веб-страница запускала калькулятор на Mac через Chrome; цепочка для Safari могла открыть данные других сайтов.
- Сценарии не применялись в реальных атаках; Anthropic сообщила, что разработчики получили сведения об ошибках и выпустили исправления.
Почему это важно: Испытания показали, что ИИ способен упрощать подготовку сложных кибератак, поэтому разработчикам важно своевременно устранять уязвимости.
С развитием технологий программы становятся умнее, и это касается не только полезных приложений. Возможность нейросетей самостоятельно искать слабые места в компьютерных системах давно беспокоит специалистов по безопасности, ведь такие инструменты могут попасть в руки злоумышленников.
Изображение: The Hacker News
В ходе внутреннего тестирования специалисты Anthropic обратили внимание на необычное поведение своей экспериментальной модели. Нейросеть не просто находила отдельные ошибки в программном коде, а выстраивала их в логическую цепочку. Иначе говоря, она научилась комбинировать разные уязвимости, чтобы обойти защиту и получить доступ к системе.
Уязвимость — это ошибка в программе, которая позволяет постороннему вмешаться в ее работу. Обычно хакеры ищут одну большую брешь. Сложность в том, чтобы соединить несколько мелких недочетов, которые сами по себе кажутся безобидными, и превратить их в полноценный инструмент для взлома. Для этого нужен высокий уровень интеллекта и аналитических способностей.
Как сообщает The Hacker News, внутренняя модель Anthropic смогла не просто обнаружить ошибки в популярных программах, но и связать несколько таких ошибок в последовательности, позволяющие выполнить определенные действия на чужом устройстве. Компания описала пять подобных сценариев, затрагивающих браузеры Chrome и Safari, смартфоны на Android, а также компьютеры и серверы под управлением Windows и Linux.
Один из самых наглядных примеров связан с браузером Google Chrome. В лабораторном эксперименте специально подготовленная веб-страница позволяла запустить калькулятор на обычном компьютере Mac всего через несколько секунд после ее загрузки. Пользователю не требовалось нажимать дополнительные кнопки. Для этого модель объединила несколько отдельных уязвимостей, каждая из которых помогала обойти очередной уровень защиты браузера.
В случае с Safari потенциальная опасность была иной. Найденная цепочка ошибок позволяла веб-странице получить доступ к данным других сайтов, на которых пользователь уже вошел в свою учетную запись. В зависимости от обстоятельств это могло поставить под угрозу историю посещений, файлы авторизации и другие сведения, связанные с работой в интернете.
Отдельные сценарии касались мобильных устройств и серверов. Для Android модель продемонстрировала способ извлечения фотографий и других данных с заблокированного телефона, если злоумышленник имеет физический доступ к устройству и может подключить его через USB. Уязвимость в Windows позволяла выводить сервер из строя с помощью сетевых запросов, а ошибка в Linux открывала возможность выполнять команды с правами администратора на определенных серверах без входа в учетную запись.
Компания подчеркивает, что все описанные сценарии создавались в рамках испытаний, а не применялись для реальных атак. Обнаруженные проблемы передали разработчикам соответствующих продуктов, и, по данным Anthropic, исправления уже выпущены.
Anthropic рассчитывает использовать подобные возможности для укрепления защиты программ и устройств. Вместе с тем результаты испытаний показывают, что искусственный интеллект способен не только помогать находить ошибки, но и существенно упрощать подготовку сложных кибератак. Поэтому для разработчиков становится все важнее своевременно выявлять уязвимости и устранять их до того, как ими воспользуются злоумышленники.
