Китайская «машина цензуры» использует ИИ — что раскрылось из утечек
Китай разрабатывает новую систему цензуры на основе искусственного интеллекта. Из утечки данных понятно, что власти тестируют алгоритмы для автоматического выявления запрещенных тем. В базу загружены более 133 тыс. примеров контента, который считается нежелательным. Система анализирует сообщения о коррупции, проблемах в экономике, бедности и других вопросах, способных вызвать общественный резонанс.
Программа работает на основе большой языковой модели. Она не просто ищет запрещенные слова, а понимает контекст и даже распознает скрытые намеки. Например, алгоритм реагирует на политическую сатиру, обсуждения военных тем и упоминания Тайваня, из-за которого Китай конфликтует с США. Система может отслеживать жалобы на чиновников, скандалы, связанные с безопасностью продуктов, и недовольство социальными проблемами. Она находит обходные выражения и саркастические комментарии, которые раньше могли ускользнуть от автоматических фильтров. Также ИИ вживую модерирует наполнение социальных сетей, блокируя нежелательный контент до того, как он станет вирусным.
Исследователи считают, что Китай хочет использовать искусственный интеллект для усиления контроля над общественным мнением. Раньше цензоры вручную проверяли сообщения, блокировали иностранные сайты, такие как Google, YouTube и Wikipedia, а также фильтровали поисковые запросы и социальные сети, удаляя нежелательный контент. Теперь алгоритмы способны автономно находить и блокировать нежелательный контент автоматически. Это повышает скорость и точность и позволяет отслеживать даже завуалированную критику.
Компания OpenAI сообщала, что китайские организации уже применяют нейросети для мониторинга социальных сетей. Искусственный интеллект анализирует протестные посты, следит за активистами и помогает создавать пропагандистский контент. Пока непонятно, будет ли «сверхразум» как-то влиять на социальный рейтинг жителей некоторых провинций.
Использование ИИ в цензуре становится общемировой тенденцией. В России тестируют системы для контроля за СМИ и блогерами. В Иране автоматические алгоритмы анализируют посты в Telegram и Twitter. В Турции специальные программы отслеживают упоминания о политических оппонентах. Такие технологии позволяют властям контролировать информацию, ограничивать свободу слова и предотвращать распространение неудобных фактов.
Ранее мы писали о том, как Китай пытался взять под контроль Apple Intelligence.
