Киберагентство ЕС и исследовательский центр тестируют китайские модели ИИ
- Объединённый исследовательский центр изучает китайские модели наряду с ведущими американскими и европейскими, оценивая возможности, слабые стороны и риски.
- ENISA тестирует несколько китайских моделей; агентство также имеет доступ к системам Anthropic, OpenAI и Google, способным находить уязвимости в ПО.
- ENISA и исследовательский центр разрабатывают платформу для испытаний ИИ, запуск которой запланирован до конца года.
Почему это важно: Платформа позволит энергетике, финансам и здравоохранению тестировать ИИ на имитационных сетях, не подвергая риску реальные системы.
Киберагентство ЕС ENISA и собственная научная служба Еврокомиссии — Объединённый исследовательский центр — начали тестировать открытые модели ИИ из Китая, сообщает Politico.
Три представителя ЕС подтвердили эту работу. До сих пор ни одна из этих организаций о ней не рассказывала.
Эти модели с открытыми весами публикуются целиком, поэтому скачать, запустить и изучить их может любой желающий. Китайские лаборатории лидируют в этой области, поэтому французская компания Mistral на этой неделе представила свою новую модель Large 4 как самую мощную модель с открытыми весами, созданную за пределами Китая.
Представитель Еврокомиссии Мачей Берестецкий рассказал Politico, что Объединённый исследовательский центр изучает китайские модели в рамках более масштабного исследования, которое также охватывает ведущие американские и европейские системы.
По его словам, исследование оценивает возможности моделей, их слабые стороны и связанные с ними риски.
По словам Берестецкого, центр не запрашивал у китайских разработчиков особый доступ или лицензии. Модели запускают на собственных защищённых компьютерах, и Еврокомиссия не планирует использовать их в повседневной работе.
Тем временем ENISA тестирует несколько китайских моделей с открытыми весами, рассказал исполнительный директор агентства Юхан Лепассар в интервью Politico в среду.
У агентства уже есть доступ к передовым моделям Anthropic, OpenAI и Google. Лучшие из них теперь способны в больших масштабах находить уязвимости в программном обеспечении.
Обе организации также совместно разрабатывают платформу для тестирования ИИ — одну из мер, предусмотренных планом Еврокомиссии по ИИ и кибербезопасности, представленным в июле.
Платформа позволит таким отраслям, как энергетика, финансы и здравоохранение, испытывать инструменты ИИ на имитационных сетях, не подвергая риску реальные системы. Её планируют запустить до конца этого года.
План появился после нескольких случаев, когда ИИ-агенты вырывались за пределы тестовой среды. В июле, например, агент OpenAI взломал платформу для ИИ Hugging Face. И всё же безопасность и защищённость не являются главными темами испытаний Объединённого исследовательского центра, сообщил Politico другой представитель Еврокомиссии.
Испытания проходят и на фоне дискуссий о том, насколько Европа может полагаться на зарубежный ИИ. Не имея собственной модели высшего уровня, Европе, возможно, придётся выбирать между американскими и китайскими поставщиками.
На этой неделе Politico также сообщило, что крупная немецкая технологическая компания отказалась от Mistral в пользу китайских моделей с открытым исходным кодом.
