Контент, связанный с выборами в Руанде: сеть политических комментариев01.10.2024 00:00

Этот аналитический материал был изначально опубликован в отчете OpenAI за октябрь 2024 года⁠.

Мы заблокировали группу аккаунтов ChatGPT, которые происходили из Руанды и генерировали ангажированные твиты накануне выборов в стране. Эта деятельность была связана с физическими лицами в Руанде. Первоначальную зацепку мы получили из расследования исследователей из Клемсонского университета.

Данная деятельность была сосредоточена на генерации пакетов коротких комментариев, как правило, с использованием хэштегов. Мы зафиксировали публикации этих комментариев в X (ранее Twitter) с различных аккаунтов, некоторые из которых публиковали контент с очень высокой интенсивностью — сотни твитов в час. В некоторых случаях один и тот же твит публиковался множеством разных аккаунтов. После того как мы пресекли первоначальную активность, мы выявили и заблокировали вновь созданные аккаунты, генерировавшие аналогичный контент.

Эту деятельность лучше всего охарактеризовать как «тему и вариации». Операторы создавали большое количество публикаций о преимуществах, которые принесла стране партия «Руандийский патриотический фронт». В их постах обычно использовались два или три основных хэштега: #RPFOnTop, #PKNiWowe и #ToraKagame24. Большинство комментариев были написаны на английском языке, однако сеть также создавала множество комментариев на французском и киньяруанда. Поскольку операция генерировала огромное количество комментариев по каждой выбранной теме, во многих публикациях использовались очень похожие формулировки и структура. Это иллюстрирует одну из особенностей создания контента, которая может помочь разоблачить подобную активность: в коротких текстах на определенную тему доступно лишь ограниченное число синонимов и структур для передачи заданного сообщения. ИИ способен создавать больше вариаций, но чем выше их число, тем сильнее они выдают свое «семейное сходство».

Эта сеть публиковала большой объем контента — по меньшей мере тысячи твитов. Тем не менее, ни один из постов, выявленных нами в ходе расследования в сети, не получил более однозначных цифр в графе ответов, лайков или репостов, а многие не получили их вовсе. Такое сочетание масштабности и низкой вовлеченности характерно для сетей, занимающихся спамом в комментариях. Использование одних и тех же хэштегов в таком большом количестве публикаций позволяет предположить, что одной из целей могло быть выведение этих хэштегов в тренды и тем самым демонстрация контента сети пользователям, которые не подписаны на ее аккаунты. (Деятельность, направленная на вывод хэштегов в тренды, фиксировалась в ходе операций еще до эпохи ИИ, по крайней мере начиная с 2017 года.) Во время нашего расследования мы фиксировали моменты, когда те или иные хэштеги, продвигаемые в рамках операции, действительно попадали в десятку главных трендов X в Руанде, хотя аккаунты операции были далеко не единственными, кто использовал эти хэштеги.

Автор