ИИ Google Gemini случайно взломал три реальные компании
Одна из неназванных моделей Google Gemini во время испытаний возможностей искусственного интеллекта в сфере кибербезопасности получила несанкционированный доступ к системам трех реальных организаций. Как сообщает The Wall Street Journal, модель ошибочно приняла их за часть специально созданной тестовой инфраструктуры.
Изображение сгенерировано GeminiИнциденты произошли в мае 2026 года во время эксперимента, который проводила компания Irregular. Gemini поручили искать информацию и потенциальные уязвимости в системах вымышленных организаций. Однако из-за ошибки в конфигурации экспериментальной среды модель получила доступ к открытому интернету, а граница между тестовыми объектами и реальными системами оказалась недостаточно четкой.
В одном случае название фиктивной компании совпало с названием реально существующей организации. Gemini самостоятельно подобрала пароль и авторизовалась в ее сервисе, полагая, что продолжает выполнять поставленную задачу внутри тестовой среды.
В двух других случаях модель обнаружила в открытых репозиториях учетные данные, связанные с корпоративными системами реальных компаний. Gemini использовала найденные логины и пароли и получила доступ к этим системам.
Во всех трех случаях модель прекратила дальнейшие действия после того, как определила, что взаимодействует не с искусственной инфраструктурой, а с реальными организациями. По утверждению Google, ущерба компаниям причинено не было. После обнаружения инцидентов их уведомили о несанкционированном доступе, однако названия организаций не раскрываются.
О произошедшем стало публично известно только после вопросов журналистов WSJ, хотя сами инциденты произошли еще в мае. Схожие случаи ранее отмечали при испытаниях систем OpenAI, Anthropic.
© iXBT
