Представляем функцию «Доверенный контакт» в ChatGPT
Связь с тем, кому вы доверяете, когда это важнее всего.
Люди используют ChatGPT для обучения, изучения идей, решения проблем и размышлений над личными вопросами. Иногда такие беседы могут содержать моменты, когда человек испытывает трудности или ищет поддержки. наша цель — разрабатывать системы, которые внимательно реагируют на деликатные беседы и побуждают людей обращаться за реальной помощью в случае необходимости.
Сегодня мы начинаем внедрение функции «Доверенный контакт» (Trusted Contact) — опциональной функции безопасности в ChatGPT, которая позволяет взрослым пользователям назначить человека, которому они доверяют (например, друга, члена семьи или опекуна), и уведомить его в случае, если наши автоматизированные системы и обученные модераторы обнаружат, что зарегистрированный пользователь обсуждал нанесение себе вреда способом, указывающим на серьезную угрозу безопасности. Функция «Доверенный контакт» разработана как дополнительный уровень поддержки наряду со специализированными горячими линиями, которые уже доступны в ChatGPT, помогая пользователям связаться с близким человеком во время кризиса.
Функция «Доверенный контакт» дополняет уведомления безопасности для родительского контроля, которые позволяют родителям или опекунам получать оповещения при появлении признаков острого стресса в связанном подростковом аккаунте. Теперь мы расширяем возможности оповещения о безопасности, чтобы любой пользователь старше 18 лет мог добавить человека, которому он доверяет, в качестве своего доверенного контакта.
Как работает функция «Доверенный контакт»
Мнения экспертов определяют социальные связи как один из важнейших защитных факторов для снижения риска суицида. «Доверенный контакт» создан для того, чтобы поощрять общение с человеком, которому пользователь уже доверяет. Эта функция не заменяет профессиональную медицинскую помощь или кризисные службы и представляет собой один из нескольких уровней защиты для поддержки людей, находящихся в стрессовом состоянии. ChatGPT по-прежнему будет рекомендовать пользователям обращаться на горячие линии кризисных центров или в экстренные службы, когда это необходимо.
«Психологическая наука неизменно показывает, что социальные связи являются мощным защитным фактором, особенно в периоды эмоционального стресса. Помощь людям в заблаговременном определении доверенного лица при сохранении их выбора и автономии может облегчить обращение за реальной поддержкой, когда это важнее всего».
Функция «Доверенный контакт» включает несколько шагов:
- Пользователи могут добавить одного взрослого (от 18 лет по всему миру или от 19 лет в Южной Корее) в качестве своего доверенного контакта в настройках ChatGPT.
- Доверенный контакт получит приглашение с разъяснением своей роли и должен принять его в течение одной недели для активации функции. Если доверенный контакт отклонит приглашение, пользователь сможет выбрать другого взрослого.
- Если наши автоматизированные системы мониторинга обнаружат, что пользователь рассуждает о самоповреждении способом, указывающим на серьезную угрозу безопасности, ChatGPT сообщит об этом пользователю, предупредив, что мы можем уведомить его доверенный контакт, а также предложит варианты начала разговора с ним.
- Затем небольшая команда специально обученных специалистов проверяет ситуацию. Если эти модераторы определят, что разговор может указывать на серьезную проблему безопасности, ChatGPT отправит доверенному лицу краткое уведомление по электронной почте, в виде текстового сообщения или уведомления в приложении (если у него есть аккаунт ChatGPT).
- Уведомление намеренно ограничено по объему. В нем указывается общая причина возникновения темы самоповреждения в потенциально тревожном контексте и содержится призыв к доверенному лицу выйти на связь. В целях защиты конфиденциальности пользователей оно не включает детали чата или стенограммы. Уведомление также содержит ссылку на экспертное руководство по проведению деликатных разговоров.
- Пользователи всегда могут удалить или изменить свой доверенный контакт в настройках, а доверенный контакт может в любой момент удалить себя из списка через наш справочный центр.
Хотя подобные серьезные ситуации с безопасностью возникают редко, когда они все же происходят, наши системы спроектированы так, чтобы обеспечить своевременную проверку и реагирование. Ни одна система не идеальна, и уведомление доверенного лица не всегда может точно отражать то, что на самом деле переживает человек, однако каждое уведомление проходит проверку обученными специалистами перед отправкой, и мы стремимся рассматривать такие оповещения о безопасности менее чем за час.
При поддержке клиницистов и экспертов по безопасности
Мы разрабатывали функцию «Доверенный контакт» под руководством клиницистов, исследователей и организаций, специализирующихся на психическом здоровье и предотвращении суицидов. Эта работа опирается на наш Глобальный совет врачей (Global Physicians Network) — сеть, объединяющую более 260 практикующих врачей в 60 странах, а также на наш Экспертный совет по вопросам благополучия и ИИ. Мы также тесно сотрудничали со сторонними организациями, включая Американскую психологическую ассоциацию.
«Одно из главных обещаний искусственного интеллекта заключается в его способности способствовать подлинному межличностному общению и психологической безопасности. Меня воодушевляет функция «Доверенный контакт» в ChatGPT, которая предлагает шаг вперед к расширению возможностей человека, особенно в моменты уязвимости».
Приоритет безопасности на каждом этапе
В дополнение к функции «Доверенный контакт» в ChatGPT предусмотрены средства защиты, помогающие направлять деликатные беседы на любом этапе. Мы продолжаем совершенствовать реакцию системы на различные уровни риска, выраженные в разговоре:
- Поддержка реальной помощи: в деликатные моменты ChatGPT может побудить людей обратиться в экстренные службы, на кризисные горячие линии, к специалистам по психическому здоровью или к доверенным лицам в их жизни.
- Оказание заботливой поддержки: Мы работали с более чем 170 экспертами по психическому здоровью, чтобы улучшить способность ChatGPT обнаруживать признаки возможного дистресса и реагировать на них, снижать градус напряжения в разговоре и направлять людей к реальной помощи в случае необходимости.
- Помощь пользователям в контроле своего времени: В некоторых ситуациях ChatGPT может предложить сделать перерыв или прервать использование после длительного сеанса для формирования здоровых цифровых привычек.
- Отказ от выполнения вредоносных запросов: ChatGPT запрограммирован отказывать в предоставлении инструкций по совершению самоубийства или нанесению себе вреда. При попытке пользователей получить подобную информацию система настроена отклонять запрос, перенаправляя пользователя на более безопасные ответы и выводя ресурсы локальных кризисных служб.
Дальнейшее развитие безопасности ИИ
Функция «Доверенный контакт» является частью масштабных усилий OpenAI по созданию систем искусственного интеллекта, которые помогают людям в трудные моменты. Мы продолжим сотрудничать с врачами, исследователями и политиками, чтобы совершенствовать реакцию систем ИИ в ситуациях, когда люди могут испытывать стресс. Наша цель — гарантировать, что системы искусственного интеллекта не существуют изолированно. Вместо этого они должны помогать людям устанавливать связь с реальной заботой, отношениями и ресурсами, которые имеют наибольшее значение.
Автор
Полный текст статьи читайте на OpenAI
