Комментарий о коррупции: критика антикоррупционного фонда
OpenAI заблокировала аккаунты, которые использовали ИИ для генерации комментариев с критикой российского антикоррупционного фонда и связанных с ним лиц.
Этот тематический анализ впервые был опубликован в отчете OpenAI за октябрь 2024 г.
Субъект
Мы заблокировали небольшой кластер активности, который использовал наш API для генерации комментариев, публиковавшихся затем в X. Эти комментарии, как правило, критиковали членов Антикоррупционного фонда, основанного покойным Алексеем Навальным. Учитывая его направленность на комментирование в социальных сетях и выдвижение обвинений в коррупции, мы назвали эту операцию «Corrupt Comment» («Коррумпированный комментарий»).
Поведение
Этот субъект использовал наши модели для создания комментариев на английском языке, которые затем публиковались фейковыми аккаунтами в X — зачастую в ответ на посты на русском языке. Хотя эти комментарии публиковались в виде ответов, они не генерировались как ответы: мы не обнаружили никаких признаков того, что в рамках операции использовались наши модели для чтения или анализа контента в социальных сетях либо для создания релевантных реакций. Деятельность была узко сфокусирована на высокопоставленных фигурах из Антикоррупционного фонда (известного как ФБК по русской аббревиатуре), основанного покойным российским активистом Алексеем Навальным. Организатор или организаторы использовали наш API для генерации комментариев, критикующих Фонд, его руководство и соратников Навального. Эти комментарии затем публиковались в X в ответ на посты членов Фонда. Аккаунты в X, публиковавшие эти комментарии, были в основном созданы в декабре 2023 года, не имели подписчиков и не получали никаких ответов на свои публикации.
Твит российской оппозиционной политикессы Любови Соболь и ответ от аккаунта, опубликовавшего контент этой операции. Сравните объем вовлеченности в публикации Соболь с полным отсутствием вовлеченности в посте фейкового аккаунта.
В некоторых аккаунтах в X в качестве изображений профиля использовались пейзажи, скопированные из интернета. Другие использовали поддельные фотографии профиля, которые несли признаки создания с помощью более ранних версий ИИ — генеративно-состязательных сетей (GAN), о технологии которых сообщалось еще в 2019 году.
Сгенерированный контент
Комментарии, сгенерированные в ходе этой операции, в основном критиковали ФБК, ставя под сомнение его прозрачность. Как и в случае с Руандой, этот подход лучше всего описывается принципом «тема и вариации», когда множество различных постов использовалось для донесения одного и того же основного посыла.
Три твита одного из аккаунтов этой операции от 24 июня, каждый из которых является ответом соратникам Навального и представляет собой вариацию на одну и ту же ключевую тему.
Оценка влияния
Мы выявили активность этой операции в X. Большинство обнаруженных нами аккаунтов не имели подписчиков, а у большинства из них было ноль ответов. Англоязычные ответы на любой конкретный комментарий обычно уступали по количеству русскоязычным ответам от третьих лиц, не связанных с этой сетью, что указывает на то, что операция не смогла заглушить общее обсуждение, если таковой была ее цель. Используя шкалу Breakout Scale для оценки влияния информационных операций по шкале от 1 (минимальный) до 6 (максимальный), мы бы оценили активность, связанную с использованием наших моделей, как
Автор
Полный текст статьи читайте на OpenAI
