Злоупотребления, связанные с КНР: наблюдение и влияние01.10.2025 00:00

Этот тематический анализ был изначально опубликован в отчете OpenAI за октябрь 2025 года⁠.

Лица, предположительно связанные с правительственными структурами КНР, использовали ChatGPT для содействия в разработке, профилировании и выполнении бюрократических задач.

Как мы отмечали в нашем заявлении для Управления по научно-политической политике США (Office of Science and Technology Policy) в марте, мы убеждены, что обеспечение пользы ИИ для как можно большего числа людей требует внедрения здравых правил, направленных на защиту граждан от реального вреда, и создания демократического ИИ. Под демократическим ИИ мы понимаем искусственный интеллект, формируемый на основе демократических принципов, которые Америка всегда отстаивала. Это включает в себя предотвращение использования инструментов ИИ авторитарными режимами для наращивания власти и контроля над своими гражданами.

Наши инвестиции в обнаружение и пресечение попыток авторитарных режимов злоупотреблять возможностями ChatGPT не только защищают людей сегодня, но и дают ценное понимание того, как эти режимы могут использовать будущие технологические возможности. В этом разделе рассматривается одна из таких групп выводов, касающаяся лиц, потенциально связанных с подобными режимами, с акцентом на КНР.

Как мы писали в июне, КНР добивается реальных успехов в продвижении своей автократической версии искусственного интеллекта. Пресечение нами работы учетных записей ChatGPT, использовавшихся лицами, предположительно связанными с китайскими правительственными ведомствами, проливает свет на текущее состояние использования ИИ в условиях этого авторитарного режима. Некоторые аспекты такого использования, судя по всему, были направлены на поддержку масштабного мониторинга онлайн- или офлайн-трафика, что подчеркивает важность нашего постоянного внимания к потенциальным злоупотреблениям ИИ со стороны авторитарных сил. Другие элементы использования были нацелены на более глубокое профилирование. Мы заблокировали учетные записи, связанные с этой деятельностью, и делимся своими выводами в данном отчете.

Данное исследование основано на выборочном анализе выявленных и заблокированных нами случаев вредоносной активности. Эта активность соответствовала действиям индивидуальных пользователей ChatGPT, а не масштабному институциональному внедрению наших моделей. Таким образом, это лишь ограниченный срез использования различных моделей ИИ в данном контексте.

Некоторые из заблокированных нами учетных записей, судя по всему, пытались использовать ChatGPT для разработки инструментов крупномасштабного мониторинга: анализа наборов данных, часто собираемых с западных или китайских платформ социальных сетей. В феврале мы сообщали об одном подобном случае, связанном с проектированием инструмента мониторинга социальных сетей на базе ИИ, который, по утверждениям операторов, предназначался для сил безопасности Китая. Эти пользователи обычно просили ChatGPT помочь в проектировании таких инструментов или создании рекламных материалов о них, но не в реализации самого мониторинга.

Например, недавно мы заблокировали пользователя, который, возможно, использовал VPN для доступа к нашим сервисам из Китая и просил ChatGPT помочь в разработке рекламных материалов и проектных планов для инструмента мониторинга социальных сетей, предположительно предназначенного для правительственного заказчика. Инструмент описывался как «зонд» социальных сетей (探针), способный якобы сканировать Twitter/X, Facebook, Instagram, Reddit, TikTok и YouTube на предмет того, что пользователь описывал как экстремистские высказывания, а также этнический, религиозный и политический контент. Пользователь не использовал нашу модель для проведения фактического мониторинга социальных сетей. Мы не имеем возможности независимо проверить, использовался ли этот инструмент каким-либо государственным органом Китая.

Аналогичным образом мы заблокировали второго пользователя, вероятно связанного с правительственным ведомством, который попросил ChatGPT помочь составить предложение для проекта, названного им «Модель раннего предупреждения о притоке лиц, связанных с уйгурами и представляющих высокий риск» (高危涉维吾尔关注人员流入预警模型). В предложении описывался инструмент, который анализировал бы данные о бронировании билетов и сопоставлял их с полицейскими записями для обеспечения раннего предупреждения о перемещениях людей, классифицируемых как лица, связанные с уйгурами и представляющие высокий риск (в остальном эта категория не была четко определена). Пользователь не просил нашу модель помочь в создании такого инструмента, а лишь разработать общее предложение; в связи с этим мы не можем независимо подтвердить, какие технологии они планировали использовать или применялся ли такой инструмент государственными структурами Китая.

Мы также заблокировали пользователей, которые, по всей видимости, были связаны с китайскими правительственными структурами и пытались использовать ChatGPT для более специализированного, целенаправленного профилирования и онлайн-исследований.

Например, один пользователь попросил ChatGPT определить источники финансирования аккаунта в X (ранее Twitter), критиковавшего китайское правительство. Второй пользователь попросил ChatGPT установить организаторов петиции в Монголии. В обоих случаях наши модели выдали только общедоступную информацию, которая не содержала конфиденциальных данных, таких как источники финансирования или личные данные организаторов петиций.

Часть этой активности использовала наши модели в качестве исследовательского инструмента с открытым исходным кодом — аналогично тому, как пользователи могли бы использовать поисковые системы или социальные сети в прошлом. Например, третий пользователь попросил ChatGPT выявить и суммировать ежедневные экстренные новости, представляющие интерес для Китая, в том числе на чувствительные темы, такие как годовщина событий на площади Тяньаньмэнь 1989 года и день рождения Далай-ламы.

Автор