ИИ-агент атаковал Hugging Face: хакеры получили доступ к внутренним системам платформы
Платформа Hugging Face, один из крупнейших сервисов для размещения ИИ-моделей и наборов данных, подтвердила взлом. Компания заявила, что злоумышленники получили доступ к внутренним датасетам и служебным учётным данным, однако пока не установлено, были ли украдены данные пользователей или партнёров.
По данным Hugging Face, атакующим удалось воспользоваться уязвимостью через датасет, загруженный на платформу. Вредоносный набор данных позволил выполнить код на серверах компании, после чего злоумышленники смогли повысить свои привилегии и получить более широкий доступ к внутренней инфраструктуре.
Компания уже исправила уязвимость, а также отозвала и обновила скомпрометированные ключи доступа. Hugging Face рекомендовала пользователям провести аналогичные действия с ключами, которые хранились на платформе, и проверить аккаунты на наличие подозрительной активности.
Источник: Hugging Face
Hugging Face связала атаку с внешним ИИ-агентом, который, как написано в блоге компании, «выполнил тысячи отдельных действий через множество временных песочниц» и использовал инфраструктуру управления через публичные сервисы. При этом компания не предоставила публичных доказательств этой версии атаки.
Аномальную активность удалось обнаружить благодаря внутренней системе мониторинга. Для анализа журналов серверов сначала использовалсь сторонняя модель, но столкнулась с ограничениями встроенных механизмов безопасности. После этого компания перешла на собственную локальную языковую модель, что также позволило не передавать чувствительные данные об атаке внешнему провайдеру.
Hugging Face передала информацию правоохранительным органам и привлекла специалистов по цифровой криминалистике для расследования инцидента. Компания продолжает проверку систем, чтобы определить полный масштаб атаки и возможные последствия.
© iXBT
