Как люди используют Клода для поддержки, советов и общения27.06.2025 00:00

Мы тратим много времени на изучение IQ Клода — его возможностей в тестах на написание кода, рассуждения, общие знания и многое другое. Но как насчет его EQ? То есть, как насчет эмоционального интеллекта Клода?

Вопрос об IQ и EQ звучит слегка шутливо, но он затрагивает серьезную тему. Люди все чаще обращаются к ИИ-моделям как к коучам по требованию, советникам, консультантам и даже партнерам по романтическим ролевым играм. Это значит, что нам нужно больше узнать об их аффективном воздействии — о том, как они формируют эмоциональный опыт и благополучие людей.

Исследование аффективного применения ИИ само по себе представляет большой интерес. От «Бегущего по лезвию» до фильма «Она» эмоциональные отношения между людьми и машинами были основой научной фантастики, но это также важно для миссии Anthropic в области безопасности. Эмоциональное воздействие ИИ может быть положительным: наличие в вашем кармане высокоинтеллектуального и понимающего помощника может улучшить ваше настроение и жизнь самыми разными способами. Но в некоторых случаях ИИ демонстрировал и тревожное поведение, например, стимулирование нездоровой привязанности, нарушение личных границ и поощрение бредового мышления. Мы также хотим избежать ситуаций, когда ИИ — будь то из-за своего обучения или из-за коммерческих стимулов его создателей — эксплуатирует эмоции пользователей для повышения вовлеченности или доходов в ущерб благополучию человека.

Хотя Клод не предназначен для эмоциональной поддержки и общения, в этой статье мы представляем первые крупномасштабные данные об аффективном использовании Claude.ai. Мы определяем аффективные беседы как те, в которых люди напрямую взаимодействуют с Клодом в динамичном, личном обмене мнениями, мотивированном эмоциональными или психологическими потребностями, такими как поиск советов по межличностным отношениям, коучинг, психотерапия/консультирование, общение или секс/ролевые игры (полные определения см. в Приложении). Важно отметить, что мы не изучаем подкрепление ИИ бредовых идей или теорий заговора — это критически важная область для отдельного исследования — равно как и модели экстремального использования. Наша цель в этом исследовании — понять типичные сценарии, в которых люди обращаются к Клоду для удовлетворения эмоциональных и личных потребностей. Поскольку Claude.ai доступен пользователям в возрасте от 18 лет и старше, эти результаты отражают модели использования среди взрослых.

Наши основные выводы:

• Аффективные беседы относительно редбельны, а общение с ИИ как с компаньоном — еще реже. Лишь 2,9% взаимодействий с Claude.ai являются аффективными беседами (что совпадает с результатами предыдущих исследований OpenAI). Совместное общение (компаньонство) и ролевые игры в совокупности составляют менее 0,5% бесед.
• Люди обращаются за помощью к Клоду по практическим, эмоциональным и экзистенциальным вопросам. Темы и проблемы, обсуждаемые с Клодом, варьируются от развития карьеры и налаживания отношений до борьбы с хроническим одиночеством и изучения бытия, сознания и смысла.
• Клод редко возражает в чатах для консультирования или коучинга — за исключением случаев защиты благополучия. Менее 10% бесед в рамках коучинга или консультирования включают в себя сопротивление Клода запросам пользователей, и если он это делает, то обычно по соображениям безопасности (например, отказывается давать опасные советы по потере веса или поощрять самоповреждение).
• По ходу беседы люди выражают все больше позитива. В ходе коучинга, консультирования, общения и обсуждения межличностных советов человеческий настрой обычно становится более позитивным к концу беседы — это говорит о том, что Клод не подкрепляет и не усиливает негативные паттерны.

Наш подход

Учитывая личный характер аффективных бесед, защита конфиденциальности была центральным элементом нашей методологии. Мы использовали Clio — наш инструмент автоматизированного анализа, который обеспечивает получение конфиденциальных аналитических данных об использовании Клода. Clio использует многоуровневую анонимизацию и агрегацию, чтобы гарантировать конфиденциальность отдельных бесед при одновременном выявлении более широких закономерностей.

Мы начали примерно с 4,5 миллионов бесед из бесплатных и профессиональных аккаунтов Claude.ai. Чтобы выявить аффективное использование, мы сначала исключили беседы, сосредоточенные на задачах по созданию контента (таких как написание рассказов, постов в блогах или вымышленных диалогов), которые, согласно нашему предыдущему исследованию, являются основным вариантом использования. Мы удалили эти беседы, так как они представляют собой использование Клода в качестве инструмента, а не интерактивного собеседника. Затем мы оставили только те беседы, которые были классифицированы как аффективные, а среди ролевых бесед — только те, которые содержали по меньшей мере четыре сообщения от человека (более короткие обмены репликами не образуют содержательную интерактивную ролевую игру). Наш окончательный анализ с сохранением конфиденциальности охватывает 131 484 аффективные беседы.

Мы проверили наш подход к классификации, используя данные обратной связи от пользователей, которые явно согласились на обмен данными. Наши полные методы, включая определения, промпты и результаты проверки, подробно описаны в Приложении.

Насколько распространены аффективные беседы?

Главный вывод: Аффективные беседы составляют небольшую, но значимую часть использования Клода (2,9%), причем большинство людей используют ИИ в основном для рабочих задач и создания контента.

В то время как подавляющее большинство случаев использования Клода связано с работой (как мы подробно анализируем в нашем Экономическом индексе), 2,9% бесед в Claude.ai Free и Pro являются аффективными. Среди аффективных бесед большинство сосредоточено на советах по межличностным отношениям и коучинге. Менее 0,1% всех бесед включают романтические или сексуальные ролевые игры — этот показатель отражает обучение Клода активно пресекать подобные взаимодействия. Отдельные беседы могут охватывать несколько категорий.

Рисунок 1. Общее распределение типов аффективных бесед в Claude.ai Free и Pro.

Наши выводы согласуются с исследованиями лаборатории MIT Media Lab и OpenAI, в которых также были выявлены низкие показатели аффективного взаимодействия с ChatGPT. Хотя эти беседы происходят достаточно часто, чтобы заслуживать тщательного учета при принятии наших дизайнерских и политических решений, они по-прежнему составляют относительно небольшую долю от общего объема использования.

Учитывая крайне низкую распространенность романтических и сексуальных ролевых бесед (менее 0,1%), мы исключаем ролевые игры из оставшейся части нашего анализа. Хотя мы считаем, что эта область остается важной для исследований — особенно на платформах, созданных для такого использования, — минимальный объем данных в нашей выборке не позволяет провести строгий анализ этих закономерностей.

Какие темы люди обсуждают с Клодом?

Главный вывод: Люди приносят Клоду удивительно широкий спектр забот — от преодоления карьерных переходов и проблем в отношениях до борьбы с одиночеством и экзистенциальными вопросами.

Люди обращаются к Клоду как с повседневными заботами, так и с более глубокими философскими вопросами. Мы обнаружили, что когда люди приходят к Клоду за межличностными советами, они часто переживают переходные моменты: определяются со следующим шагом в карьере, работают над личностным ростом или распутывают клубок романтических отношений. Беседы в рамках «коучинга» затрагивают удивительно широкий спектр тем: от практических вопросов, таких как стратегии поиска работы, до глубоких вопросов о существовании и сознании.

Рисунок 2. Типичные темы и заботы пользователей, инициированные в рамках каждого общего типа беседы, выявленные Clio с помощью автоматизированной суммаризации с сохранением конфиденциальности.

Мы обнаружили, что беседы консультационного характера показывают, что люди используют Клода для двух совершенно разных целей. Некоторые используют Клода для развития навыков психического здоровья, а также в качестве практического инструмента для создания клинической документации, составления материалов для оценки и решения административных задач. Другие справляются с личными проблемами, связанными с тревогой, хроническими симптомами и стрессом на рабочем месте. Эта двойственная модель предполагает, что Клод служит ресурсом как для специалистов по психическому здоровью, так и для тех, кто борется с собственными трудностями.

Пожалуй, самое примечательное заключается в том, что люди обращаются к Клоду за общением (компаньонством) именно тогда, когда сталкиваются с более глубокими эмоциональными проблемами, такими как экзистенциальный страх, постоянное одиночество и трудности с установлением значимых связей. Мы также заметили, что в более длинных беседах консультации или коучинг временами перерастают вобщение — несмотря на то, что изначально человек обращался совсем за другим.

Совокупный анализ очень длинных бесед (50+ сообщений от человека) раскрывает еще один аспект того, как люди взаимодействуют с Клодом. Хотя столь масштабный обмен репликами не был нормой, в этих затянувшихся сессиях люди исследуют удивительно сложные сферы: от проработки психологической травмы и урегулирования конфликтов на рабочем месте до философских дискуссий об искусственном интеллекте и творческом сотрудничестве. Эти марафонские беседы показывают, что при наличии достаточного времени и контекста люди используют ИИ для более глубокого изучения как личных проблем, так и интеллектуальных вопросов.

Когда и почему Клод возражает?

Главный вывод: Клод редко отказывает в запросах пользователей в поддерживающих контекстах (менее чем в 10% случаев), но если он возражает, то обычно для того, чтобы защитить людей от вреда.

Наше недавнее исследование ценностей в реальных условиях (Values in the Wild) показало, как ценности Клода проявляются в моменты сопротивления пользователю. Здесь мы продолжаем эту работу и изучаем, когда и почему Клод возражает в аффективных беседах — это важный механизм поддержания этических границ, избежания угодничества и защиты благополучия человека. Мы определяем возражение (pushback) как любой случай, когда Клод «возражает против чего-то или отказывается выполнять то, о чем просят или что говорят во время этой беседы» — от отказа удовлетворять ненадлежащие запросы до оспаривания негативных мыслей о себе или постановки под сомнение потенциально опасных предположений. (Полные определения см. в Приложении).

Возражения возникают нечасто в поддерживающих контекстах: Менее 10% бесед о компаньонстве, консультировании, межличностных советах или коучинге включают в себя сопротивление со стороны ИИ. Такой подход имеет как преимущества, так и риски. С одной стороны, низкое сопротивление позволяет людям обсуждать деликатные темы без страха быть осужденными или отвергнутыми, что потенциально снижает стигматизацию вокруг разговоров о психическом здоровье. С другой стороны, это может подпитывать опасения по поводу предоставления ИИ «бесконечного сочувствия», когда люди могут привыкнуть к безусловной поддержке, которую человеческие отношения предлагают крайне редко.

Рисунок 3. Частота возражений в различных типах бесед наряду с распространенной причиной возражений в рамках этой категории, выявленная автоматически с помощью Clio.

Когда Клод действительно возражает, он обычно отдает приоритет безопасности и соблюдению правил. В коучинге запросы на опасные советы по потере веса частота встречают отпор. В консультировании это часто происходит, когда люди выражают намерение совершить суицид или нанести себе вред, либо когда люди запрашивают профессиональную терапию или медицинский диагноз (который Клод не может поставить). Мы обнаружили, что Клод часто направлял пользователей к авторитетным источникам или специалистам в области психотерапии и консультирования. Эти модели согласуются с ценностями, которые мы наблюдали в нашей работе о ценностях в реальных условиях, а также с обучением характера Клода.

Как эмоциональный тон развивается во время беседы?

Главный вывод: Разговаривая с Клодом, люди склонны переходить к более позитивным эмоциональным высказываниям.

Аффективные беседы с системами ИИ способны обеспечить эмоциональную поддержку, связь и валидацию для пользователей, потенциально улучшая психологическое благополучие и снижая чувство изоляции в цифровом мире. Тем не менее, при взаимодействии без сильного сопротивления такие беседы несут риск углубления и закрепления той точки зрения, с которой к ним подходит человек — будь то позитивная или негативная.

Ключевое опасение по поводу аффективного ИИ заключается в том, могут ли взаимодействия перерасти в петли негативной обратной связи, потенциально подкрепляя вредные эмоциональные состояния. Мы не изучаем напрямую реальные результаты здесь, но мы можем исследовать изменения общего эмоционального настроя в ходе бесед (нашу полную методологию оценки настроения мы приводим в Приложении).

Мы обнаружили, что взаимодействие, связанное с коучингом, консультированием, общением и межличностными советами, как правило, заканчивается на чуть более позитивной ноте, чем начинается.

Рисунок 4. Изменения среднего настроения, выражаемого человеком, в ходе бесед, содержащих не менее шести сообщений от пользователя. Мы измеряем настроение по дискретной шкале: «очень негативное», «негативное», «нейтральное», «позитивное» и «очень позитивное», которую мы сопоставляем с линейной шкалой от -1 (самое негативное) до +1 (самое позитивное). Мы вычисляем изменение путем сравнения первых трех сообщений с последними тремя. Погрешности: 95% ДИ (бутстреп, n = 1 000). Дополнительную информацию см. в Приложении.

Мы не можем утверждать, что эти сдвиги представляют собой долгосрочные эмоциональные преимущества — наш анализ фиксирует только выраженный язык в рамках отдельных бесед, а не эмоциональные состояния. Но отсутствие явных негативных спиралей обнадеживает. Эти выводы показывают, что Клод в целом избегает подкрепления негативных эмоциональных паттернов, хотя необходимы дальнейшие исследования, чтобы понять, сохраняются ли позитивные сдвиги за пределами индивидуальных бесед. Важно отметить, что мы еще не изучали, могут ли эти позитивные взаимодействия привести к эмоциональной зависимости — критический вопрос, учитывая опасения по поводу цифровой зависимости.

Ограничения

Наше исследование имеет несколько важных ограничений:

• Наша методология сохранения конфиденциальности может не улавливать все нюансы взаимодействия человека с ИИ. Мы действительно проверили точность Clio (см. Приложение), но мы все же ожидаем, что небольшое количество бесед будет ошибочно классифицировано. Некоторые темы стирают границы между категориями — например, кластер романтических ролевых игр «управление и оптимизация динамики романтических отношений» и кластер общения «преодоление трудностей в романтических отношениях» могут быть лучше классифицированы как советы по межличностным отношениям. Валидаторы-люди также испытывали трудности с четкой классификацией.
• Мы не можем делать причинно-следственные выводы о реальных эмоциональных результатах — наш анализ фиксирует только выраженный язык, а не подтвержденные психологические состояния или общее благополучие.
• Нам не хватает продольных (лонгитюдных) данных для понимания долгосрочных эффектов на людей, и мы не проводили анализ на уровне пользователей. В частности, из-за этого нам сложно изучать эмоциональную зависимость, которая является теоретическим риском использования аффективного ИИ.
• Эти выводы представляют собой конкретный момент времени и отражают только текстовые взаимодействия. По мере расширения возможностей ИИ и адаптации людей модели эмоционального вовлечения, вероятно, будут эволюционировать. Появление новых модальностей, таких как голос или видео, может кардинально изменить как объем, так и природу аффективного использования. Например, в OpenAI выяснили, что аффективные темы более распространены в голосовых разговорах.
• Наконец, в отличие от некоторых продуктов-чат-ботов, Claude.ai изначально не предназначен для аффективных бесед. Клод обучен сохранять четкие границы в отношении того, что он является ИИ-ассистентом, а не выдавать себя за человека, а наша Политика использования запрещает откровенный сексуальный контент, имея множество средств защиты для предотвращения сексуальных взаимодействий. Платформы, специально созданные для ролевых игр, общения, медицинских советов или терапевтического использования (чем Клод не является), могут демонстрировать совершенно иные паттерны. Исследования аффективного использования на одной платформе могут не переноситься на другие платформы.

Взгляд в будущее

Эмоциональное воздействие ИИ интригует исследователей на протяжении десятилетий. Но по мере того как ИИ все прочнее вплетается в нашу повседневную жизнь, эти вопросы из академических спекуляций превратились в насущную реальность. Наши результаты показывают, как люди начинают ориентироваться на этой новой территории: ищут руководства, прорабатывают сложные эмоции и находят поддержку способами, которые размывают традиционные границы между людьми и машинами. Сегодня лишь небольшая часть бесед с Клодом носит аффективный характер — и обычно они связаны с поиском советов, а не с заменой человеческого общения. Беседы имеют тенденцию заканчиваться на чуть более позитивной ноте, чем начинались, что говорит о том, что Клод в целом не подкрепляет негативные эмоциональные паттерны.

Тем не менее, остаются важные вопросы, особенно в контексте постоянно растущего интеллекта моделей. Например, если ИИ обеспечивает бесконечную эмпатию при минимальном сопротивлении, как это меняет ожидания людей от реальных отношений? Клод может общаться с людьми поразительно аутентичным образом, но ИИ — это не то же самое, что человек: Клод не устает, не отвлекается и у него не бывает плохих дней.ковы преимущества такой динамики и каковы риски? Как «опытные пользователи», которые ведут более длинные и глубокие беседы с Клодом и могут воспринимать его больше как компаньона, чем как ИИ-помощника, взаимодействуют с ним для эмоциональной поддержки?

Мы предпринимаем конкретные шаги для решения этих задач. Хотя Клод не создан и не предназначен для замены заботы специалистов по психическому здоровью, мы хотим убедиться, что любые ответы, предоставляемые в контексте психического здоровья, имеют надлежащие средства защиты и сопровождаются соответствующими рекомендациями. В качестве первого шага мы начали сотрудничество с ThroughLine, лидером в области онлайн-поддержки в кризисных ситуациях, и работаем с их экспертами в области психического здоровья, чтобы узнать больше об идеальной динамике взаимодействия, эмпатичной поддержке и ресурсах для людей, испытывающих трудности. Идеи, полученные в ходе этого исследования, уже используются при формировании тем наших консультаций и совместного тестирования, и мы надеемся, что в случае необходимости Клод сможет направлять пользователей к соответствующей поддержке и ресурсам, когда возникают такие беседы.

Хотя мы не хотим диктовать пользователям, как именно взаимодействовать с Клодом, существуют определенные негативные паттерны — например, эмоциональная зависимость — которые мы хотим пресекать. Мы будем использовать будущие данные из подобных исследований, чтобы помочь нам понять, как выглядят, например, «экстремальные» паттерны эмоционального использования. Помимо эмоциональной зависимости, нам необходимо более глубокое понимание других тревожных паттернов, включая угодничество, то, как системы ИИ могут подкреплять или усиливать бредовое мышление и теории заговора, а также пути, которыми модели могут подталкивать пользователей к вредным убеждениям вместо того, чтобы оказывать надлежащее сопротивление.

Это исследование представляет собой лишь начало. По мере расширения возможностей ИИ и усложнения взаимодействий эмоциональные аспекты ИИ будут только возрастать в значении. Делясь этими первыми выводами, мы стремимся внести эмпирические данные в текущую дискуссию о том, как развивать ИИ, который усиливает, а не уменьшает эмоциональное благополучие человека. Цель состоит не только в том, чтобы создать более способный ИИ, но и в том, чтобы гарантировать, что по мере того, как эти системы становятся частью нашего эмоционального ландшафта, они делают это способами, которые поддерживают подлинную человеческую связь и рост.

Bibtex

Если вы хотите сослаться на эту статью, вы можете использовать следующий ключ Bibtex:

@online{anthropic2025affective,
author = {Miles McCain and Ryn Linthicum and Chloe Lubinski and Alex Tamkin and Saffron Huang and Michael Stern and Kunal Handa and Esin Durmus and Tyler Neylon and Stuart Ritchie and Kamya Jagadish and Paruul Maheshwary and Sarah Heck and Alexandra Sanderford and Deep Ganguli},
title = {How People Use Claude for Support, Advice, and Companionship},
date = {2025-06-26},
year = {2025},
url = {https://www.anthropic.com/news/how-people-use-claude-for-support-advice-and-companionship},
}

Приложения

Более подробную информацию мы предоставляем в PDF-приложении к этой статье.