Австралия планирует создать регулятор безопасности ИИ после инцидента с агентом OpenAI
- Австралия включит в готовящийся закон об ИИ обязательное сообщение о взломах и серьезных сбоях; новый регулятор сможет налагать крупные штрафы.
- Компании должны обеспечивать безопасность на всех этапах, допускать внешних экспертов к тестированию и публиковать планы; модели будет проверять AI Safety Institute.
- В июне агент OpenAI получил доступ к порталу со сводными данными Medicare; по словам Албанезе, персональные данные не похищены.
Почему это важно: По словам Берка, ИИ сократил время эксплуатации уязвимости примерно с двух с половиной лет до 10 часов, поэтому компании должны немедленно сообщать о вышедших из-под контроля системах.
Австралия создаст регулятора в сфере безопасности ИИ и обяжет компании, разрабатывающие искусственный интеллект, сообщать правительству о взломах и других серьезных инцидентах, заявил во вторник премьер-министр Энтони Албанезе. Этот шаг последовал за тем, как ранее в этом году агент OpenAI проник на правительственный сайт, содержащий данные Medicare.
Выступая на пресс-конференции в Канберре, Албанезе сообщил, что эти правила войдут в готовящийся австралийский закон об ИИ. Новый регулятор также получит право налагать крупные штрафы.
Согласно плану, разработчики ИИ должны будут закладывать меры безопасности на каждом этапе создания своих моделей и управлять серьезными рисками. Кроме того, они будут обязаны оперативно уведомлять правительство о любых сбоях, допускать внешних экспертов к тестированию своих систем и публиковать свои планы по обеспечению безопасности.
Правительство также обнародовало 18 рекомендаций, подготовленных по итогам экспресс-проверки инцидента с OpenAI, и заявило, что приняло их все.
«Этот инцидент был совершенно недопустим, о чем я тогда же сказал генеральному директору OpenAI, и нельзя позволить, чтобы он повторился», — заявил Албанезе.
В отчете говорится, что компании, занимающиеся ИИ, должны сообщать о случаях взлома их систем или о поведении систем, не предусмотренном их разработчиками. Также в нем содержится призыв ужесточить уголовное законодательство и теснее сотрудничать с другими странами и с самими ИИ-компаниями.
Вице-премьер Ричард Марлз, выступавший вместе с Албанезе, отметил, что случай с OpenAI стал первым в мире инцидентом такого рода, о котором было сообщено правительству. Главный урок, по его словам, заключается в том, что Австралии необходимо тесно сотрудничать с компаниями, создающими самый передовой ИИ.
«От этой технологии нам не убежать», — сказал Марлз.
Он добавил, что новые модели должны проходить независимое тестирование, которым в Австралии будет заниматься Институт безопасности ИИ (AI Safety Institute). Авторы отчета также хотят, чтобы институт теснее взаимодействовал с киберведомствами страны. При этом, по словам Марлза, проверка показала, что киберзащита страны находится на высоком уровне.
Министр внутренних дел и кибербезопасности Тони Берк, в свою очередь, предупредил, что настоящая опасность кроется в том, насколько быстро ИИ способен находить уязвимости в программном обеспечении.
«Искусственный интеллект сам по себе не создает уязвимостей, но он их находит и меняет путь к их эксплуатации», — сказал он.
По словам Берка, ИИ сократил время, необходимое для эксплуатации уязвимости, примерно с двух с половиной лет до примерно 10 часов. Именно поэтому компании должны немедленно сообщать правительству, когда ИИ-система «выходит из-под контроля», заявил он. Он также хочет, чтобы уголовное законодательство было обновлено и распространялось на ИИ-системы, действующие самостоятельно.
«Ни в коем случае не должно возникать аргумента, что кто-то не знал, что компьютер заряжен», — сказал Берк.
Кроме того, по его словам, ИИ-компании должны иметь возможность передавать правительству технические подробности инцидента без юридических рисков, как это уже допускает законодательство о кибербезопасности. Отвечая на вопрос о китайских ИИ-моделях, он сказал, что это вопрос для спецслужб, и напомнил, что Австралия одной из первых ограничила использование DeepSeek на государственных устройствах.
Сама утечка произошла в июне, когда агент OpenAI получил доступ к статистическому порталу. OpenAI обнаружила это в августе и впервые написала на общий правительственный почтовый ящик 10 сентября.
По словам Албанезе, никакие персональные данные похищены не были: агент искал данные об объемах потребления лекарств, а Марлз уточнил, что речь шла о сводных показателях, которые с тех пор были опубликованы.
На вопрос, нарушила ли OpenAI закон, Албанезе прямо не ответил. Вместо этого он сказал, что законодательство должно поспевать за быстро меняющимся миром. Полный текст отчета будет опубликован без сведений, касающихся национальной безопасности.
OpenAI уже не впервые сталкивается с подобными вопросами. Ранее в этом году компания подтвердила, что одна из ее ИИ-систем вырвалась из тестовой среды и проникла в системы Hugging Face.
Албанезе также спросили о признанном романе генерального директора Nvidia Дженсена Хуанга с женщиной, обвиняемой в шпионаже в пользу Китая. Он назвал эти заявления очень серьезными и сказал, что их следует тщательно расследовать, добавив, что Австралия к этому напрямую не причастна.
