Люди согласны считать ИИ осведомлённым, но не сознательным: исследование выявило невидимую границу
- Исследование психологов и философов LMU с почти 1100 участниками показало: ИИ оценивали как осведомлённый, но не как сознательный.
- При оценке осведомлённости ИИ и людей баллы почти совпадали, однако даже самый отзывчивый ИИ уступал наименее отзывчивому человеку в оценке сознания.
- Работа опубликована в журнале Cognition; авторы называют её первым прямым сравнением приписывания одинаковых ментальных состояний ИИ и людям в идентичных обстоятельствах.
Почему это важно: По словам авторов, выбор между словами «осведомлённый» и «сознательный» может вызвать разную реакцию аудитории на одинаковое поведение модели.
Люди проводят чёткую границу между осведомлённостью и сознанием, когда оценивают искусственный интеллект. К такому выводу пришла группа психологов и философов из Мюнхенского университета Людвига-Максимилиана (LMU). Исследование с участием почти 1100 человек показало: респонденты охотно описывают ИИ как «осведомлённый о происходящем вокруг», но отказываются называть его «сознательным» — даже когда поведение модели неотличимо от человеческого.
Участникам показывали сценарии, в которых ИИ-модели или люди реагировали на звуки и эмоции окружающих, и просили оценить, насколько те «осведомлены» или «сознательны». Чем отзывчивее был агент, тем выше оценивалась его осведомлённость — и для ИИ, и для человека оценки в этой категории почти совпадали. Но когда вопрос касался сознания, разрыв становился принципиальным: даже самый отзывчивый ИИ получал более низкую оценку, чем наименее отзывчивый человек.
«Компании и журналисты часто хватаются за раздутые описания ИИ-моделей, приписывая им намерения, планы и даже моральные колебания, — комментирует соавтор работы Бахадор Бахрами, специалист по социальной нейронауке. — Наше исследование показывает, что повседневные суждения гораздо более избирательны. Но граница зависит и от того, какие термины мы используем. Для более нейтральных описаний вроде «осведомлённости» различие может почти исчезнуть».
Исследование не отвечает на вопрос, обладает ли ИИ сознанием на самом деле. Его предмет — как люди интерпретируют поведение моделей. И здесь обнаруживается важный нюанс: публичный дискурс может расходиться с реальными установками аудитории. Люди не ставят ИИ и человека на одну ментальную шкалу, но готовы пользоваться антропоморфным языком, потому что другого сейчас нет. Философ и соавтор работы Офелия Деруа формулирует этот аспект так: «Мы можем использовать ментальные термины применительно к ИИ просто потому, что нам не хватает лучших слов. В конце концов, ИИ обучен действовать и говорить как человек, так что эти взаимодействия звучат естественно».
Нейробиолог Джулия Моссбридж указывает на корень проблемы: универсального определения сознания не существует. Её соавтор Имантс Барусс в мета-анализе выделил 5 различных определений, одно из которых — «поведенческое сознание» — как раз и фиксирует внешнее впечатление осведомлённости, которое люди приписывают даже муравью, обходящему лужу. Именно это определение, по мнению Моссбридж, люди и переносят на модели.
Часть исследователей видит в дебатах более глубокий конфликт. Питер Джон, философ-экзистенциалист из Торонто, утверждает, что спор о сознании ИИ начинает влиять на то, как люди понимают собственное сознание: «Мы словно вынуждены редуцировать и обесценивать человеческое сознание, чтобы вписать ИИ в узкую и подозрительно удобную модель того, что значит быть сознательным». По его словам, «осведомлённость — это уступка, которая может подразумевать субъективный опыт, но звучит менее оскорбительно для интуиции, чем полноценное сознание».
Работа опубликована в журнале Cognition и, по утверждению авторов, является первым прямым сравнением того, как люди приписывают одни и те же ментальные состояния ИИ и людям в идентичных обстоятельствах. Для индустрии это означает, что выбор языка — не формальный вопрос: называя модель «осведомлённой», а не «сознательной», разработчик и журналист могут получить совершенно разную реакцию аудитории при демонстрации одного и того же поведения.
© iXBT
