Пресечение скрытой иранской операции влияния
Мы заблокировали учетные записи, связанные с иранской операцией влияния, в рамках которой ChatGPT использовался для генерации контента на различные темы, включая президентскую кампанию в США. Мы не обнаружили никаких признаков того, что этот контент охватил значительную аудиторию.
OpenAI стремится предотвращать злоупотребления и повышать прозрачность контента, созданного с помощью искусственного интеллекта. Это включает в себя нашу работу по выявлению и пресечению скрытых операций влияния (IO), которые пытаются манипулировать общественным мнением или влиять на политические результаты, скрывая истинную личность или намерения стоящих за ними лиц. Это особенно важно в контексте многочисленных выборов, проводящихся в 2024 году. В течение этого года мы расширили нашу деятельность в данной сфере, в том числе задействовав наши собственные модели ИИ для более эффективного обнаружения и понимания нарушений.
На этой неделе мы выявили и заблокировали группу учетных записей ChatGPT, которые создавали контент для скрытой иранской операции влияния, известной под названием Storm-2035. Мы заблокировали этим аккаунтам доступ к нашим сервисам и продолжаем отслеживать любые дальнейшие попытки нарушения нашей политики. В ходе операции ChatGPT использовался для генерации материалов по ряду тем, включая комментарии о кандидатах с обеих сторон на президентских выборах в США, которые затем распространялись через учетные записи в социальных сетях и на веб-сайтах.
Подобно скрытым операциям влияния, о которых мы сообщали в мае, эта кампания, судя по всему, не смогла добиться значительного вовлечения аудитории. Большинство выявленных нами публикаций в социальных сетях получили мало лайков, репостов или комментариев, либо не получили их вовсе. Мы также не обнаружили признаков того, что веб-статьи распространялись в социальных сетях. Используя шкалу прорыва (Breakout Scale) Института Брукингса, которая оценивает влияние тайных операций влияния по шкале от 1 (нижний) до 6 (высший), эту операцию можно отнести к нижней границе Категории 2 (активность на нескольких платформах, но нет свидетельств того, что реальные люди подхватили или широко распространили их контент). Нашему расследованию помогла информация об операции, опубликованная Microsoft на прошлой неделе.
Наше расследование показало, что эта операция использовала ChatGPT для двух целей: создания развернутых статей и коротких комментариев для социальных сетей. Первое направление производило статьи о политике США и мировых событиях, которые публиковались на пяти сайтах, выдававших себя за новостные ресурсы как прогрессивного, так и консервативного толка. Второе направление создавало короткие комментарии на английском и испанском языках, которые размещались в социальных сетях. Мы выявили дюжину аккаунтов в X и один в Instagram, задействованных в этой операции. Некоторые аккаунты в X выдавали себя за прогрессистов, а другие — за консерваторов. Часть этих комментариев была создана путем отправки нашим моделям запросов на переписывание комментариев других пользователей социальных сетей.
Операция генерировала контент на несколько тем: главным образом, конфликт в Газе, присутствие Израиля на Олимпийских играх и президентские выборы в США, а в меньшей степени — политика в Венесуэле, права латиноамериканских сообществ в США (как на испанском, так и на английском языках) и независимость Шотландии. Политический контент перемежался комментариями о моде и красоте, возможно, для создания видимости большей аутентичности или в попытке набрать подписчиков.
Несмотря на отсутствие существенного отклика аудитории на эту операцию, мы со всей серьезностью относимся к любым попыткам использования наших сервисов в операциях иностранного влияния. В связи с этим, в рамках нашей работы по оказанию помощи широкому сообществу в пресечении подобной активности после удаления учетных записей из наших сервисов, мы поделились данными о потенциальных угрозах с государственными структурами, избирательными штабами и представителями индустрии. OpenAI по-прежнему привержена делу выявления и пресечения подобных злоупотреблений в больших масштабах путем партнерства с представителями отрасли, гражданским обществом и государственными органами, а также за счет использования возможностей генеративного ИИ в качестве мультипликатора сил в нашей работе. Мы продолжим публиковать подобные результаты для содействия обмену информацией и передовым опытом.
Заголовки двух статей, сгенерированных в ходе этой операции и опубликованных на двух ее веб-сайтах. Мы не обнаружили свидетельств широкого распространения этих статей в социальных сетях.
Публикации о кандидатах в президенты США, сгенерированные в ходе операции и размещенные двумя разными аккаунтами в X. Эти посты привлекли минимальное внимание или не привлекли его вовсе.
Публикации о красоте на английском и испанском языках, сгенерированные в рамках операции и размещенные двумя разными аккаунтами в X. Мы пропустили эти изображения через наш классификатор DALL·E 3, который определил, что они не были созданы нашими сервисами. Эти посты получили низкий уровень вовлеченности или не получили его вовсе.
Домены, связанные с этой активностью:
- niothinker[.]com
- savannahtime[.]com
- evenpolitics[.]com
- teorator[.]com
- westlandsun[.]com
Автор
Полный текст статьи читайте на OpenAI
