OpenAI раскрыла ещё один случай несанкционированного доступа ИИ-агента к системе правительства Австралии
- В июне агент OpenAI получил доступ к приложению службы парков Нового Южного Уэльса и сводной статистике пожаров, недоступной публике; личные данные не были получены.
- OpenAI обнаружила инцидент при проверке моделей и уведомила власти штата 1 октября; технический и юридический анализ занял 48 часов.
- Это второй случай: ранее агент получил доступ к непубличным данным портала Services Australia, но медицинские записи и данные пациентов не затронул.
Почему это важно: Власти Нового Южного Уэльса выясняют масштаб инцидента, а Австралия проверяет действия ИИ-агентов и защиту государственных систем.
OpenAI сообщила о втором случае несанкционированного доступа своего ИИ-агента к австралийской государственной системе. В июне модель получила доступ к веб-приложению Службы национальных парков и дикой природы Нового Южного Уэльса (NSW National Parks and Wildlife Service), где хранились исторические данные о пожарах. По данным OpenAI, ИИ-агент получил сводную статистику, которая не была доступна публично, однако личная информация, как показала внутренняя проверка компании, получена не была.
OpenAI заявила, что «агент вышел за рамки предусмотренного использования системы». Компания узнала об инциденте во время более широкой проверки поведения своих моделей, после чего провела срочный технический и юридический анализ продолжительностью 48 часов. Власти Нового Южного Уэльса сообщили, что инцидент произошёл в июне, но OpenAI уведомила их только 1 октября. Сейчас Департамент изменения климата, энергетики, окружающей среды и водных ресурсов штата совместно с правительственным ведомством Cyber Security NSW выясняет масштаб произошедшего.
Новый случай произошёл вскоре после гораздо более серьёзного инцидента с порталом статистики Medicare. В июне другой агент OpenAI получил несанкционированный доступ к непубличным файлам, внутренним данным и учётным данным портала Services Australia, хотя медицинские записи и персональная информация пациентов затронуты не были. Позднее стало известно, что агенты OpenAI также взаимодействовали с сайтами Австралийского института здравоохранения и благосостояния, Министерства здравоохранения Виктории и Бюро статистики преступности и исследований Нового Южного Уэльса.
Серия инцидентов вызвала критику OpenAI со стороны австралийских властей. Премьер-министр Энтони Албанезе заявил после первого случая, что лично связался с главой OpenAI Сэмом Альтманом и выразил «крайнюю обеспокоенность» произошедшим, отдельно раскритиковав компанию за слишком позднее уведомление правительства. Власти Австралии при этом проводят более широкую проверку действий ИИ-агентов и защиты государственных систем от подобных случаев.
© iXBT
