OpenAI заявила, что связанные с Moonshot пользователи пытались извлечь рассуждения её ИИ
- Кампания началась 1 июля; 24 и 25 июля отправили 16 000 запросов более чем от 4 000 пользователей.
- К 28 июля OpenAI пресекла кампанию; её «основную группу» компания связала с Moonshot, но не смогла установить связь для всех участников.
- Участники копировали зашифрованную логику из одного диалога и просили модель расшифровать её в другом.
Почему это важно: OpenAI заявила, что её беспокоит нарушение условий обслуживания, а не открытые модели или законная дистилляция.
OpenAI заявила, что за скоординированной кампанией по извлечению скрытой логики рассуждений её моделей стоят люди, связанные с Moonshot AI — китайским разработчиком Kimi. Компания изложила свои выводы в публикации в блоге в среду.
Активность началась 1 июля, сначала её масштабы были невелики. 24 и 25 июля она резко возросла: было отправлено 16 000 запросов от более чем 4 000 пользователей. Затем OpenAI обнаружила связанную с кампанией активность среди более чем 15 000 пользователей. По заявлению компании, к 28 июля ей удалось полностью пресечь кампанию. OpenAI не смогла связать всех её участников с одним лицом, но отнесла «основную группу» к людям, связанным с Moonshot.
«Эта активность соответствует враждебной дистилляции: систематическому и несанкционированному использованию ответов или логики рассуждений одной модели для обучения, воспроизведения или улучшения другой», — написала OpenAI.
Как происходило извлечение данных
OpenAI скрывает логику рассуждений, которую её модели используют перед тем, как дать ответ. По словам компании, участники кампании копировали зашифрованную логику из одного диалога. Затем в другом диалоге они просили модель расшифровать её и записать текстом.
Они не взламывали шифрование, не получали доступ к базе данных и не обращались к сохранённым пользовательским диалогам, добавила OpenAI. С тех пор компания заблокировала аккаунты, ужесточила проверки при регистрации и усилила защиту скрытой логики рассуждений. Она также поделилась своими выводами с другими лабораториями ИИ через Форум передовых моделей (Frontier Model Forum) и по официальным правительственным каналам.
«Нас беспокоит нарушение наших условий обслуживания, а не открытые модели или законная дистилляция», — заявила Bloomberg Кэролайн Зир, возглавляющая в OpenAI инициативы по стратегической политике в сфере национальной безопасности.
Обвинения и возражения
Как сообщило издание Bloomberg, OpenAI впервые обвинила Moonshot. Как отметило Bloomberg, в прошлом месяце Anthropic выдвинула против компании аналогичное обвинение в своём докладе.
Те же обвинения выдвинули ведомства США. В опубликованном в этом месяце предупреждении названы шесть китайских компаний и американские модели, на которые была нацелена каждая из них. Китай отверг это предупреждение, назвав обвинения безосновательными.
Однако с этими заявлениями согласны не все. Дэвид Сакс, бывший куратор сферы ИИ при Трампе, назвал подобные сообщения попыткой заставить США запретить конкурирующие открытые модели, сообщило Bloomberg.
Moonshot также находится под пристальным вниманием властей на родине. Как сообщило в этом месяце издание The Information, китайские регуляторы ведут расследование в отношении DeepSeek и Moonshot.
Об этом также пишут
- OpenAI Срыв скоординированной кампании по дистилляции моделей 30.09.2026 13:30
