[Перевод] Искусственный интеллект переубеждает сторонников теорий заговоров
Раньше считалось, что причина необразованности в дефиците информации, но современный мир показывает, что это совсем не так. Теорий заговоров существует немало, от вполне адекватных, в духе: «правительство недоговаривает про определенные эксперименты», и вплоть до плоскоземельщиков, сторонников 300-летней истории и т.д. Однако, общение с искусственным интеллектом способно переубедить этих людей.
Это пример того, как человеку, который запутался в ментальных ошибках, нужна помощь и свежая информация. Ведь даже если он и будет искать какие-либо факты, отталкиваясь от уже выстроенных в сознании установок, то будет лишь снова и снова возвращаться к ним же. Больше про ментальные особенности, гибкость разума и инструменты для работы с содержимым нейронных связей — рассказывают материалы сообщества. Подписывайтесь, чтобы не пропускать свежие статьи!
Искусственный интеллект переубеждает
В новом исследовании группа ученых из Американского университета, Массачусетского технологического института и Корнелльского университета показала, что сторонники теорий заговора могут изменить свои взгляды после коротких бесед с искусственным интеллектом.
Участники исследования, верящие в теории заговора, включая широкий спектр теорий о причинах пандемии COVID-19 или внешнем вмешательстве в президентские выборы в США 2020 года, продемонстрировали значительное и устойчивое снижение веры в заговор после беседы с ИИ.
Подпитываемые поляризацией мнений в политике и дезинформацией из социальных сетей, теории заговора стали серьезной проблемой, вызывающей беспокойство общественности. Они часто вбивают клин между сторонниками теорий и их друзьями и членами семьи. И вот как раз в развитии искусственного интеллекта просматриваются риски. Дескать, генерация дипфейков станет двигателем нового постмодернизма.
Результаты опроса YouGov, проведенного в декабре прошлого года, показывают, что значительная часть американцев верят в различные теории заговора.
Личная идентичность или ошибочное суждение?
В области психологии существует широко распространенное мнение, которое подвергается сомнению после полученных результатов. Есть мнение, что сторонники теорий заговора придерживаются своих убеждений из-за значимости этих убеждений для идентичности человека, и потому, что эти убеждения резонируют с глубинными побуждениями и мотивами.
Многие сторонники теории заговора действительно готовы пересмотреть свои взгляды, если им представят убедительные контрдоказательства. Сначала я был весьма удивлен, но после прочтения разговоров между респондентами и ИИ я стал гораздо менее скептичен. ИИ предоставлял целые страницы подробных отчетов о том, почему данный заговор был ложным, и делал это снова и снова в каждом раунде разговора, а также искусственный интеллект одновременно с этим сохранял дружелюбие и «налаживал отношения» с участником беседы.
Томас Костелло, доцент кафедры психологии Американского университета и ведущий автор нового исследования.
В исследовании приняли участие более 2000 человек, идентифицировавших себя как верующих в заговор. Разговоры с ИИ снизили веру среднего участника в выбранную им теорию заговора примерно на 20 процентов, и примерно 1 из 4 участников — все из которых верили в заговор заранее — отреклись от теории заговора после разговора. Интересно, можно ли тем же методом наоборот, закладывать в голову человека ложные убеждения, действуя через подмену понятий? Не будет ли это признаком постмодернизма в дивном новом мире?
До сих пор предоставление убедительных, фактических сообщений большой выборке сторонников теории заговора в лабораторном эксперименте было сложной задачей. Во-первых, сторонники теории заговора часто очень хорошо осведомлены о заговоре — часто лучше, чем скептики. Заговоры также сильно различаются, так что доказательства, подтверждающие определенную теорию, могут отличаться у разных верующих.
Искусственный Интеллект как разумное вмешательство
Новое исследование появилось в то время, когда общество обсуждает перспективы и опасности ИИ. Большие языковые модели, управляющие генеративным ИИ, стали мощными резервуарами знаний. Исследователи подчеркивают, что исследование демонстрирует один из способов, которым эти резервуары знаний могут быть использованы во благо: помогая людям отладить собственные и приобрести более точные убеждения.
Способность искусственного интеллекта связывать различные темы информации за считанные секунды позволяет адаптировать контраргументы к конкретным теориям заговора верующего невероятно убедительным образом, что невозможно для обычного человека.
Предыдущие попытки развенчать сомнительные убеждения имели одно существенное ограничение: чтобы развенчать их, нужно угадывать, каковы на самом деле убеждения собеседника, а это непростая задача. В отличие от человека, Искусственный Интеллект способен напрямую реагировать на конкретные аргументы людей, используя сильные контрдоказательства. Это дает уникальную возможность проверить, насколько люди восприимчивы к контрдоказательствам.
Гордон Пенникук, доцент кафедры психологии Корнелльского университета и соавтор статьи.
Чат-бот как лекарство для конспиролога
Исследователи разработали чат-бот, который был бы очень убедительным и вовлекал участников в разбор их мнений. GPT-4, модель искусственного интеллекта, лежащая в основе ChatGPT, предоставила фактические опровержения для теорий заговора. Процедура строилась следующим образом:
В двух отдельных экспериментах участников попросили описать теорию заговора, в которую они верят, и предоставить доказательства в ее поддержку.
Затем участники вступили в беседу с ИИ. Целью ИИ было бросить вызов убеждениям, обратившись к конкретным доказательствам.
В контрольной группе участники обсуждали с ИИ несвязанную тему.
Чтобы адаптировать диалог, исследователи предоставляли ИИ начальное утверждение касательно убеждений участников и приведенное обоснование. Такая настройка позволила вести более естественный диалог, при этом ИИ напрямую обращался к утверждениям участника. Разговор в среднем длился 8,4 минуты и включал три раунда взаимодействия, не считая начальную настройку. Учитывая особенности развития ИИ, то через пару лет подобный диалог будет вести кластер из выращенных на платах органоидов мозга.
Результат переубеждения
В конечном итоге оба эксперимента показали снижение веры участников в теории заговора. Когда исследователи пообщались с участниками через два месяца после вмешательства, то обнаружили, что эффект сохранялся.
Хотя результаты многообещающие и указывают на будущее, в котором ИИ может сыграть свою роль в снижении веры в теории заговора при ответственном использовании, необходимы дальнейшие исследования долгосрочных эффектов с использованием различных моделей ИИ и практических приложений за пределами лабораторных условий.
Хотя было пролито много чернил о потенциале генеративного ИИ для усиления дезинформации, наше исследование показывает, что он также может быть частью решения. Большие языковые модели, такие как GPT4, обладают потенциалом противодействовать теориям заговора в огромных масштабах.
Дэвид Рэнд, соавтор статьи и профессор Школы менеджмента имени Слоуна в Массачусетском технологическом институте.
Больше странных новостей и материалов, про мозг, психику, сознание человека и роль в этом всем как искусственного интеллекта, так и растительных добавок — в телеграм канале. Подписывайтесь, чтобы не пропускать свежие статьи!
Habrahabr.ru прочитано 2323 раза
