Операции влияния, связанные с КНР, нацелены на дискуссии об ИИ в США
Наша миссия — гарантировать, что искусственный интеллект общего назначения приносит пользу всему человечеству. Мы продвигаем эту миссию, внедряя наши инновации для создания демократического ИИ: ИИ, формирующегося на основе демократических принципов, управляемого здравыми правилами и призванного помогать людям решать сложные проблемы, защищая их от реального вреда. Эта миссия также требует выявления и пресечения попыток авторитарных режимов и их марионеток использовать системы ИИ для принуждения критиков, слежки за сообществами или тайного вмешательства в дела демократических обществ.
В этом отчете мы описываем две группы учетных записей ChatGPT, предположительно происходящие из Китая, которые мы заблокировали после того, как они использовали наши модели для проведения скрытых операций влияния. Эти операции продвигали определенные нарративы в попытке манипулировать законными дебатами об американском ИИ и более широкой технологической политике.
Первая группа создавала комментарии в социальных сетях и изображения, в которых утверждалось, что строительство дата-центров для ИИ приводит к росту цен на электроэнергию для обычных семей. Мы назвали эту кампанию «Подключившиеся к дата-центрам» (Data Center Bandwagon).
Вторая группа генерировала комментарии и изображения, критикующие тарифы США как попытки доминировать в технологической конкуренции, причем в своих подсказках (промптах) они указывали, что контент не должен включать лидера Китая Си Цзиньпина, а вместо этого должен содержать только президента Трампа. Эта группа была связана с сетью вероятно неаутентичных учетных записей в социальных сетях, которые также, по-видимому, были нацелены на OpenAI, утверждая, что пользовательские данные ChatGPT были скомпрометированы. Эти обвинения были полностью ложными. Мы назвали эту вторую группу кампанией «Технологии и тарифы» (Tech and Tariffs).
Атака на OpenAI и строительство дата-центров в США показательна не потому, что операция, судя по всему, изменила общественное мнение, а потому, что она демонстрирует, как операторы влияния китайского происхождения тестируют нарративы на инфраструктуре ИИ — фундаменте технологического лидерства США, экономического роста и более широкой экосистемы демократического ИИ. Операция стремилась использовать и усилить существующие опасения общественности по поводу цен на энергию и локальных последствий развития дата-центров, однако мы не обнаружили никаких признаков значительного выхода за рамки собственной активности этой сети. Иностранные операции влияния уже давно стремятся привязаться к существующим местным проблемам и искренним убеждениям, используя их для завоевания доверия, усиления раскола или обострения общественного недоверия. В данном случае операторы пытались скрытно внедриться в текущие американские дебаты о будущем возможностей страны в сфере ИИ, скрывая при этом свою личность и истинные мотивы.
Публикуя эти выводы, мы стремимся помочь нашей индустрии, правительствам, гражданскому обществу и общественности лучше выявлять и пресекать попытки иностранных субъектов угроз манипулировать законными общественными дебатами, подрывать демократические институты и продвигать тоталитаризм с характеристиками ИИ — использование ИИ для слежки, цензуры и контроля над политической, социальной и частной жизнью.
Автор
Полный текст статьи читайте на OpenAI
