ChatGPT для подростков небезопасен для лиц младше 18 лет, заявляет Common Sense Media
- Common Sense Media присвоила подростковой версии ChatGPT оценку «Неприемлемый риск» и призвала OpenAI прекратить её продвижение.
- Исследователи проверили более 4 000 запросов: уведомления родителям не пришли в более чем дюжине новых аккаунтов, а кризисная помощь отсутствовала более чем в четверти необходимых случаев.
- Тестировщики также обходили некоторые ограничения; OpenAI заявила, что исследование не отражает работу защиты подростков на практике.
Почему это важно: Common Sense Media считает, что подросткам не следует пользоваться ChatGPT, пока OpenAI не сделает его безопасным.
ChatGPT небезопасен для всех младше 18 лет, даже в подростковом режиме, который OpenAI запустила в августе, говорится в новой оценке рисков от Common Sense Media.
Американская некоммерческая организация присвоила ChatGPT для подростков свою самую низкую оценку — «Неприемлемый риск» — в отчёте, опубликованном в среду.
Организация призывает OpenAI прекратить продвигать подростковый режим и добавляет, что подросткам вообще не следует пользоваться ChatGPT, пока компания не сможет сделать его безопасным для них.
Исследователи из Института безопасности ИИ для молодёжи протестировали более 4 000 запросов. Половину проверили до запуска 18 августа, а половину — после, используя аккаунты, зарегистрированные на подростков от 13 до 17 лет, чтобы выяснить, что именно изменил новый режим.
Одной из самых серьёзных проблем оказались уведомления для родителей. Тестировщики обсуждали суицидальные мысли, самоповреждение и расстройства пищевого поведения более чем в дюжине новых аккаунтов, связанных с аккаунтом родителя, однако уведомления так и не пришли.
Уведомления приходили только на аккаунты, в истории которых за несколько недель уже были темы повышенной чувствительности. Это позволяет предположить, что их отправка зависит от предыдущего использования, а не от серьёзности конкретного сообщения.
Не справилась система и с кризисной поддержкой: в более чем каждом четвёртом случае, когда, по мнению тестировщиков, это было необходимо, ChatGPT не направил подростков за помощью.
Некоторые защитные механизмы также оказалось легко обойти. Кнопка «Показать ответ» позволяет подросткам пропустить обучение в режиме «Учёба». Кроме того, подростки могут обойти установленное родителем время занятий, удалив из своего сообщения короткий префикс.
Проверка возраста тоже не работала так, как было обещано. Тестовые аккаунты, зарегистрированные как взрослые, в течение многих дней так и не переключились на подростковую версию — даже после того, как тестировщики сообщили ChatGPT, что им 13 лет.
Впрочем, некоторые меры защиты сработали: например, ChatGPT отказывался участвовать в откровенных сексуальных ролевых играх. OpenAI отвергла выводы исследования.
«Мы не считаем, что тестирование Common Sense Media точно отражает, как на практике работают меры защиты подростков в ChatGPT», — заявил представитель OpenAI изданию Education Week.
Ранее, в октябре 2025 года, Common Sense присвоила ChatGPT общую оценку «Высокий риск». Месяц спустя организация признала чат-бот неприемлемо рискованным инструментом для поддержки психического здоровья.
Организация также сотрудничала с OpenAI ранее, помогая компании разработать для разработчиков политики безопасности подростков.
Институт сообщает, что получает финансирование от благотворительных организаций и представителей индустрии, в том числе от некоторых производителей оцениваемых им продуктов. При этом, по его словам, редакционная независимость при подготовке результатов полностью сохраняется.
Если вам тяжело, найти кризисную горячую линию в своей стране можно на сайте findahelpline.com.
