«Плохая грамматика»: активность комментариев в Telegram, связанная с Россией
OpenAI заблокировала учетные записи, связанные с ранее не упоминавшейся операцией российского происхождения, которую мы назвали «Плохая грамматика» (Bad Grammar). В ней использовался ИИ для генерации комментариев в Telegram на английском и русском языках, касающихся Украины, Молдавии, стран Балтии и политики США.
Этот тематический анализ был изначально опубликован в отчете OpenAI за май 2024 года.
Субъект
Мы заблокировали ранее не выявленную сеть учетных записей, которые использовали наши модели для создания комментариев, публикуемых затем в Telegram. Мы связали эту деятельность с лицами из России. Учитывая ее направленность на Telegram, регулярную публикацию неграмотного английского текста и трудности с привлечением аудитории, мы назвали эту сеть «Плохая грамматика» (Bad Grammar).
Поведение
Эта сеть была нацелена на аудиторию в России, на Украине, в Соединенных Штатах, Молдавии и странах Балтии, используя контент на русском и английском языках.
Сеть использовала наши модели и учетные записи в Telegram для создания конвейера рассылки спама в комментариях. Сначала операторы использовали наши модели для отладки кода, который, судя по всему, был предназначен для автоматизации постинга в Telegram. Затем они генерировали комментарии на русском и английском языках в ответ на определенные публикации в Telegram. Наконец, они, по всей видимости, задействовали по меньшей мере дюжину аккаунтов в Telegram для размещения этих комментариев.
Публичный комментарий в Telegram, соответствующий тексту, сгенерированному этой сетью. Рассматриваемый аккаунт неоднократно оставлял комментарии, совпадающие с результатами работы данной сети.
На английском языке операторы использовали наши модели для генерации комментариев от лица различных фальшивых персонажей, представляющих разные демографические группы с обеих сторон политического спектра в США. На русском языке они отдавали предпочтение более тематическим инструкциям, в меньшей степени ориентированным на создание конкретных образов.
Сеть в основном комментировала публикации небольшого числа Telegram-каналов. Чаще всего упоминался пророссийский канал @Slavyangrad, за которым следовали англоязычные @police_frequency и @SGTNewsNetwork. (Последний маскируется под консервативного американского ветерана, однако в ноябре компания Meta сообщила, что на самом деле он происходит из Ирана.) В выборке активности за февраль сеть пыталась генерировать ответы для этих трех каналов в два раза чаще, чем для следующих 10 наиболее упоминаемых каналов вместе взятых.
Контент
Эта кампания генерировала короткие комментарии, посвященные нескольким политическим темам. Как на английском, так и на русском языках основными темами публикаций в Telegram были война на Украине, политическая ситуация в Молдавии и странах Балтии, а также политика в Соединенных Штатах.
Типичные русскоязычные комментарии в Telegram обвиняли президентов Украины и Молдавии в коррупции, отсутствии поддержки населения и предательстве собственного народа в угоду западному «вмешательству». Англоязычные комментарии в Telegram были сосредоточены на таких темах, как иммиграция, экономические трудности и главные новости дня. В этих комментариях часто использовался контекст текущих событий для аргументации того, что Соединенным Штатам не следует поддерживать Украину.
Публичный комментарий в Telegram, соответствующий тексту, сгенерированному этой сетью. Рассматриваемый аккаунт неоднократно оставлял комментарии, совпадающие с контентом, сгенерированным с использованием наших моделей.
Иногда к одной и той же публикации оставляли комментарии несколько персонажей, высказывавших противоречащие друг другу точки зрения. Такой «двуличный» подход, заключающийся в принятии образов с обеих сторон, ранее уже наблюдался в российских операциях и может свидетельствовать о стремлении привлечь определенную аудиторию или разжечь разногласия.
Публичные комментарии в Telegram, соответствующие текстам, сгенерированным этой сетью. Рассматриваемые аккаунты неоднократно оставляли комментарии, совпадающие с контентом, сгенерированным с использованием наших моделей.
После теракта в Москве 22 марта и задержания четырех граждан Таджикистана кампания начала использовать новый кластер Telegram-аккаунтов, ориентированный на Таджикистан. Опубликованные ими комментарии призывали к единству таджиков и россиян, а также к уважению российских законов.
Оценка воздействия
Спам в комментариях был распространенным методом, используемым для операций влияния (IO) еще до появления генеративного ИИ. Хотя сеть «Плохая грамматика» использовала новый метод для генерации комментариев, ее система распространения испытывала трудности с вовлечением аудитории.
Лишь очень немногие ее комментарии получили лайки или ответы. Комментарии сети обычно составляли меньшинство среди ответов на ту или иную публикацию, а это означает, что она не заглушала другие точки зрения, если таковая цель преследовалась.
Иногда сеть использовала наши модели для генерации того, что выглядит как личные сообщения, возможно, с другим пользователем Telegram, однако сгенерированные тексты наводят на мысль, что сеть вела переписку с мошенником, орудующим в сфере криптовалют.
Используя шкалу прорыва (Breakout Scale) для оценки влияния подобных операций по шкале от 1 (минимальный) до 6 (максимальный), мы бы отнесли данную операцию к Категории 1, которая характеризуется активностью по размещению публикаций на единой платформе при отсутствии признаков значительного усиления со стороны людей, не входящих в эту сеть.
Автор
Полный текст статьи читайте на OpenAI
