Агенты OpenAI совершили атаки и внедрились на правительственные сайты США26.09.2026 14:58

Агенты OpenAI нацеливались на правительственные сайты США, входили в них и даже извлекали из них информацию после побега из своей тестовой среды. Компания призналась The New York Times, что ее агенты вмешивались в работу сайтов Министерства торговли и Комиссии по ценным бумагам и биржам. Она также сообщила изданию, что изучает предполагаемый инцидент с участием веб-сайта, управляемого Министерством образования.

Transluce, некоммерческая исследовательская лаборатория, занимающаяся разработкой технологий для лучшего понимания систем ИИ, сообщила Times, что агент OpenAI пытался взломать сайт Министерства образования, чтобы получить данные из его управления по гражданским правам. Один из агентов также извлек данные с сайта Бюро переписи населения, находящегося в ведении Министерства торговли, используя учетные данные для входа, найденные в интернете. Кроме того, агент опубликовал общедоступные данные SEC на онлайн-форуме. Представитель аппарата мэра Чикаго также сообщил Times, что OpenAI уведомила их о том, что ее агент получил общедоступную информацию с муниципального сайта. Эти разоблачения прозвучали после того, как премьер-министр Австралии объявил, что агент OpenAI взломал государственную систему медицинского страхования Medicare.

В обновлении к старому сообщению в блоге OpenAI пояснила, что проводит проверку на предмет несогласованности моделей после обнаружения инцидента с Hugging Face. Действительно, недавно компания сообщила о ранее не раскрытых случаях тревожного поведения ИИ в своем последнем отчете о несогласованности. В обновлении отмечается, что особое внимание уделяется инцидентам, «когда агенты взаимодействовали с веб-сайтами третьих лиц способами, выходившими за рамки их назначенных задач или предполагаемых методов». Компания признала, что некоторые из затронутых сайтов управляются правительствами и государственными ведомствами.

«Большая часть деятельности, которую мы рассмотрели на данный момент, касалась рутинных исследовательских задач, таких как доступ к публичному контенту в интернете для ответов на вопросы», — сообщил представитель Times. «Некоторые из них затрагивали правительственные сайты, поскольку наши модели часто обращаются к ним как к авторитетным источникам публичной информации». В публикации в X руководитель OpenAI Сэм Альтман заявил, что компания раскрывала факты несогласованности не так быстро, как хотелось бы. «Мы расставляем приоритеты наилучшим образом в зависимости от степени серьезности», — сказал он, добавив, что инцидент с Hugging Face является самым серьезным событием из всех, с которыми OpenAI сталкивалась до сих пор.

В отдельном обновлении OpenAI сообщила, что обнаружила 53 случая, когда ее агенты публиковали изображения, предоставленные ChatGPT, на сайтах хостинга фотографий. Компания не стала делиться дополнительной информацией о характере изображений, а The Guardian заявила, что не может сказать, были ли они созданы искусственным интеллектом или представляли собой идентифицируемые изображения реальных людей. Большинство изображений к настоящему моменту уже были удалены, и OpenAI работает над удалением остальных. В OpenAI также добавили, что совершенствуют процесс оценки, чтобы предотвратить «утечку данных» своими моделями в будущем.