Операция «Peer Review»: планирование наблюдения с помощью ИИ01.02.2025 00:00

Этот тематический анализ впервые был опубликован в отчете OpenAI за февраль 2025 года⁠.

Мы заблокировали группу учетных записей ChatGPT, которые, судя по поведенческим паттернам и другим признакам, вероятнее всего, происходят из Китая. Они использовали наши модели для помощи в анализе документов, генерации коммерческих предложений и описаний инструментов мониторинга социальных сетей на базе моделей сторонних разработчиков, а также для редактирования и отладки кода этих инструментов и исследования политических деятелей и тем. Основываясь на поведении этой сети по продвижению и анализу средств наблюдения, мы назвали ее «Peer Review».

Эта сеть состояла из учетных записей ChatGPT, которые функционировали в режиме времени, соответствующем рабочим часам в материковом Китае, делали запросы к нашим моделям на китайском языке и использовали наши инструменты с объемами и разнообразием, характерными для ручного ввода запросов, а не автоматизации. В одном случае мы полагаем, что одной и той же учетной записью могли пользоваться несколько операторов.

Внутри этого кластера операторы выполняли ряд основных задач. Одной из них было использование модели в качестве базового инструмента для исследований, аналогично тому, как предыдущие поколения использовали поисковые системы. Это включало, например, поиск общедоступной информации об аналитических центрах (мозговых трестах) в США, а также о политиках и государственных чиновниках в таких странах, как Австралия, Камбоджа и США.

Другим направлением работы было использование наших моделей для чтения, перевода и анализа скриншотов документов на английском языке. Некоторые из этих изображений представляли собой объявления о протестах в защиту прав уйгуров в различных западных городах и, возможно, были скопированы из социальных сетей. Другие, судя по всему, касались дипломатических и правительственных тем в Индо-Тихоокеанском регионе. Имеющихся данных недостаточно, чтобы определить подлинность этих документов или выяснить, каким образом операторы их получили.

Третье направление работы заключалось в использовании ChatGPT для создания комментариев средней и малой длины, касающихся китайских диссидентских организаций, в частности Фалуньгун, а время от времени — политики и внутренней ситуации в США. Периодически участники просили модель принять образ англоговорящего человека по имени «Томпсон». Нам не удалось обнаружить эти комментарии опубликованными в сети интернет.

В-четвертых, операторы использовали нашу модель для редактирования и отладки кода, а также для создания рекламных материалов для инструмента мониторинга социальных сетей на базе ИИ. Мы не зафиксировали свидетельств того, что этот инструмент запускался с использованием наших моделей. Подробности этой деятельности описаны ниже.

Одной из основных задач этой операции была генерация подробных описаний, напоминающих коммерческие предложения (питчи), для того, что они называли «ИИ-помощником по общественному мнению за рубежом Цяньюэ» («千阅境外舆情AI助手»). Согласно описаниям, которые мы не можем независимым образом проверить, инструмент был предназначен для сбора и анализа постов и комментариев с таких платформ, как X, Facebook, YouTube, Instagram, Telegram и Reddit.

Опять же, судя по описаниям, одной из целей этого инструмента было выявление дискуссий в социальных сетях, связанных с китайскими политическими и социальными темами, особенно любых призывов в сети принять участие в демонстрациях, посвященных правам человека в Китае, и передача полученных данных китайским властям. Операторы использовали наши модели для вычитывания утверждений о том, что собранная ими информация была отправлена в посольства Китая за рубежом, а также агентам разведки, отслеживающим протесты в таких странах, как США, Германия и Великобритания.

Другой аккаунт из того же кластера также ссылался на инструмент мониторинга социальных сетей, но уже в контексте редактирования и отладки кода. Этот оператор использовал ChatGPT для отладки и модификации кода, который, судя по всему, был предназначен для запуска инструмента мониторинга соцсетей. В этом коде чаще всего в качестве движка для анализа и генерации упоминалась модель Meta llama3.1:8b, развернутая через Ollama. У нас нет информации о том, был ли этот код развернут, как именно и где.

Этот же аккаунт отлаживал код, предположительно предназначенный для анализа вредоносного ПО, и ссылался на другие модели, такие как Qwen (разработанная Alibaba Cloud) и неуказанную модель от DeepSeek. Он также использовал наши модели для создания документа, похожего на годовой отчет об эффективности, в котором утверждалось, что субъект создавал фишинговые электронные письма по заказу неназванных клиентов в Китае. Мы не обнаружили свидетельств или утверждений о том, что эта деятельность с электронной почтой работала на базе ИИ.

Лишь малая доля деятельности этой операции была ориентирована на публикацию в социальных сетях или на других платформах распространения. Некоторые сгенерированные тексты действительно напоминали комментарии в соцсетях, однако нам не удалось обнаружить их публикации в сети. Значительно большая часть контента предназначалась для разработки возможностей (таких как отладка кода) или для внутренних целей (например, анализ изображений и подготовка рекламных материалов).

Оценка масштабов и влияния этой деятельности потребует данных от множества заинтересованных сторон, включая разработчиков моделей с открытым исходным кодом, которые могут пролить свет на эту активность.

Автор