Операция «STORM-2035»: связанная с Ираном операция влияния
OpenAI заблокировала иранские учетные записи STORM-2035, которые использовали ИИ для создания контента о выборах в США и Великобритании и его публикации на различных сайтах.
Этот тематический анализ был изначально опубликован в отчете OpenAI за октябрь 2024 г..
Субъект
Мы заблокировали набор учетных записей ChatGPT, которые генерировали длинные веб-статьи и короткие комментарии на английском и испанском языках. Мы установили, что комментарии публиковались более чем десятком фальшивых персонажей в X и одним в Instagram, а статьи — на пяти веб-сайтах. Ранее компания Microsoft сообщала о некоторых из этих веб-сайтов под названием Storm-2035; после предпринятых нами мер по пресечению деятельности и последовавшего за этим обмена информацией компания Meta подтвердила, что учетная запись в Instagram была связана с иранской сетью, которую они заблокировали в декабре 2022 года. Полученная нами информация о поведении этого субъекта позволила впервые связать между собой публикации в социальных сетях и веб-сайты.
Поведение
Этот субъект вел работу по двум основным параллельным направлениям. Первое предполагало использование наших моделей для создания объемных статей на английском языке (обычно объемом от 700 до 900 слов), которые затем публиковались на ряде веб-сайтов. Некоторые из этих сайтов выдавали себя за прогрессивные, а другие — за консервативные. Они были ориентированы преимущественно на США, в том числе содержали упоминания кандидатов в президенты и вице-президенты на прошедших в этом году выборах.
Заголовки двух статей, созданных в ходе этой операции и опубликованных на двух ее веб-сайтах. Мы не обнаружили свидетельств того, что эти статьи активно распространялись в социальных сетях.
Второе направление заключалось в использовании наших моделей для генерации коротких комментариев, которые публиковались в X и Instagram. Некоторые из этих комментариев были написаны на английском языке, а некоторые — на испанском. Мы выявили одну учетную запись в Instagram и более десятка учетных записей в X, связанных с этой деятельностью. Учетная запись в Instagram выдавала себя за сторонника независимости Шотландии, в то время как различные учетные записи в X выдавали себя за сторонников обоих основных кандидатов на президентских выборах в США.
Заголовки двух статей, созданных в ходе этой операции и опубликованных на двух ее веб-сайтах. Мы не обнаружили свидетельств того, что эти статьи активно распространялись в социальных сетях.
Публикации о кандидатах в президенты США, сгенерированные в рамках этой операции и размещенные с двух разных аккаунтов в X. Эти посты набрали минимум вовлеченности (или не набрали ее вовсе) до того, как аккаунты были заблокированы.
В поддержку этой деятельности аккаунты иногда использовали наши модели для проведения базовых исследований, например, для поиска советов о том, как повысить вовлеченность в социальных сетях. Один из пользователей ChatGPT также попросил нашу модель написать статью о том, что разоблачение их операции компанией Microsoft доказало большую эффективность иранских киберопераций по сравнению с операциями из России или Китая. Мы не обнаружили созданного таким образом текста в публичном доступе в сети.
Сгенерированный контент
В рамках операции создавался контент на различные темы. Ключевыми темами были конфликт в Газе, присутствие Израиля на Олимпийских играх и президентские выборы в США. Часть материалов на английском языке касалась независимости Шотландии, а контент на английском и испанском языках затрагивал политику в Венесуэле и права латиноамериканского сообщества (Latinx) в США.
Публикации о политике в Венесуэле и правах латиноамериканских сообществ в США, размещенные с двух разных аккаунтов в X. Эти посты набрали минимум вовлеченности (или не набрали ее вовсе) до того, как аккаунты были заблокированы.
Наряду с этим политическим контентом участники операции генерировали и публиковали обычные посты на такие темы, как красота и мода — вероятно, для того, чтобы казаться более аутентичными или в попытке нарастить аудиторию.
Публикации о красоте на английском и испанском языках, созданные в рамках операции и размещенные с двух разных аккаунтов в X. Мы проверили эти изображения через наш классификатор DALL·E 3, который определил, что они не были сгенерированы нашими сервисами. Эти посты привлекли крайне мало внимания или не привлекли его вовсе.
Влияние
Несмотря на то, что организаторы операции пытались представить свое разоблачение в выгодном для себя свете, сама операция, судя по всему, не добилась значимого отклика у аудитории. Большинство постов в социальных сетях, которые мы.
Автор
Полный текст статьи читайте на OpenAI
