Сотрудничество с Американской психологической ассоциацией в сфере психического здоровья молодежи и ИИ

openai-and-apa-advance-responsible-ai-fo

Молодые люди уже используют искусственный интеллект для обучения, творчества, поиска ответов на вопросы и получения советов. По мере роста популярности таких технологий семьям, школам, врачам и местным сообществам требуются более четкие данные, качественные ресурсы и надежные меры защиты. Именно поэтому мы начали сотрудничество с Американской психологической ассоциацией (APA), чтобы внедрить достижения психологической науки в процессы разработки и использования ответственного ИИ среди молодежи. APA является ведущей научной и профессиональной организацией в области психологии в США, и ее исследования, основанные на фактических данных, помогут прояснить, что нам известно, в чем сохраняются неопределенности и каким должен быть ответственный ИИ по мере развития технологий.

»Молодежь взаимодействует с искусственным интеллектом в один из самых судьбоносных периодов своего развития. APA обладает как научным пониманием процессов взросления, так и клиническим опытом, которые позволяют определить, каким должен быть ответственный дизайн и что важнее всего для защиты и поддержания благополучия молодых людей. Наша задача — гарантировать, что эти знания дойдут до разработчиков таких систем.»
— Артур К. Эванс-младший (Arthur C. Evans, Jr.), доктор философии, главный исполнительный директор Американской психологической ассоциации

«Технологии стали неотъемлемой частью жизни подростков, и наша обязанность — отвечать на эту реальность созданием безопасных, соответствующих возрасту условий, ориентированных на семьи. ИИ должен укреплять, а не заменять те реальные отношения и заботу, на которые опирается молодежь», — заявила доктор Сара Йохансен (Sara Johansen), руководитель направления политики в отношении продуктов для психического здоровья и благополучия в OpenAI. — «Эта инициатива продолжает нашу постоянную работу с экспертами. Сотрудничая с APA и другими ведущими специалистами, мы продолжаем опираться на фактические данные и разрабатывать практические меры защиты, которые ставят благополучие подростков на первое место».

Ключевые направления работы

Ранее в этом году мы провели совместное продуктивное мероприятие с APA, объединившее лидеров организаций здравоохранения, исследователей, клиницистов, педагогов и представителей молодежи. Участники обсудили пробелы в существующей поддержке молодых людей и то, как ИИ может помочь им находить информацию и получать реальную поддержку.

Опираясь на эти обсуждения, мы планируем охватить несколько направлений: помощь молодым людям в моменты эмоционального кризиса с помощью ИИ, разработка более подходящих для разных возрастных этапов и полезных функций, а также обеспечение родителей, опекунов и клиницистов инструментами для руководства взаимодействием молодежи с искусственным интеллектом. Во всех этих инициативах мы будем опираться на науку о человеческом поведении, а также на мнение самих родителей, учителей и молодых людей. Со временем эта работа поможет усилить меры защиты и внедрить научно обоснованные подходы к использованию ИИ в жизни подрастающего поколения.

Поддержка родителей и опекунов

Одной из первоочередных задач является предоставление родителям и опекунам практических инструментов для безопасного использования ИИ дома, особенно в период, когда подростки начинают активно применять эти технологии. Совместно с APA мы планируем разработать ресурсы для семей, которые помогут родителям поощрять здоровое использование ИИ, вовремя замечать необходимость вмешательства взрослых и воспринимать ИИ именно как инструмент, а не как замену реальным людям и заботе. Мы также намерены сделать эти рекомендации широко доступными в школьных сообществах.

Поддержка специалистов и профессионального сообщества

Мы также сотрудничаем с APA, чтобы оказывать поддержку практикующим специалистам, которым все чаще задают вопросы об искусственном интеллекте. Запланированная работа включает создание материалов для клиницистов и школьных психологов, направленных на продвижение здорового использования ИИ, выявление признаков чрезмерной зависимости от него и своевременное реагирование на нездоровые паттерны поведения. Кроме того, мы продолжим организовывать встречи лидеров в сфере здравоохранения, образования, научных исследований, государственной политики, технологий и защиты прав молодежи, чтобы превращать возникающий опыт в практические руководства для всего профессионального сообщества.

Учет мнения молодежи и устранение системных пробелов

Крайне важно, чтобы эти усилия основывались на реальном опыте людей, а не на предположениях. Вместе с APA мы планируем привлекать подростков, семьи, клиницистов, школьных психологов и других экспертов, чтобы лучше понимать, как молодежь использует ИИ, с какими связанными с ним вопросами сталкиваются в школах, на сеансах психотерапии и дома, в чем текущие системы дают сбой и где ИИ может реально помочь в вопросах доступа к информации, обучения или навигации.

Наша общая работа по обеспечению безопасности

Эта инициатива продолжает усилия OpenAI по совершенствованию реакций ChatGPT в деликатных ситуациях и улучшению поддержки молодых пользователей. Мы сотрудничаем более чем с 260 экспертами в области психического здоровья, чтобы помочь ChatGPT лучше распознавать признаки эмоционального расстройства, проявлять заботу и направлять пользователей к реальным источникам помощи. Мы также расширили доступ к локализованным ресурсам помощи в кризисных ситуациях и горячим линиям, добавили напоминания о необходимости сделать перерыв и внедрили дополнительные механизмы защиты для несовершеннолетних. Среди них — родительский контроль, уведомления родителей о проблемах с безопасностью, принципы для лиц младше 18 лет в спецификации моделей (Model Spec), а также модель прогнозирования возраста, помогающая применять правильные настройки и средства защиты.

Наши долгосрочные обязательства

Искусственный интеллект может помочь людям находить информацию и ориентироваться в системах поддержки, но благополучие молодежи в первую очередь зависит от надежных человеческих отношений и заслуживающей доверия помощи. Мы рады сотрудничать с APA, а также со множеством исследователей, клиницистов и педагогов, чей опыт помогает нам делать так, чтобы ИИ действительно поддерживал молодежь и тех, кто заботится о ней, помогает ей и направляет ее.

Автор

OpenAI

Полный текст статьи читайте на OpenAI