Безопасность подростков в ChatGPT: ограничения действуют «независимо от возраста пользователя»
- В ближайшие недели ChatGPT начнёт ограничивать подросткам практические сведения об оружии и системах безопасности, даже при безобидной формулировке вопроса.
- Для всех пользователей бот сократит подробности о прошлых массовых нападениях; при признаках зацикленности на насилии сможет завершить чат, а после нескольких таких случаев OpenAI может временно приостановить аккаунт.
- Первый «Отчёт о безопасности сообщества» выйдет в начале 2027 года и охватит вторую половину 2026-го; далее отчёты будут выходить раз в полгода.
Почему это важно: OpenAI отмечает, что для защиты от насилия нужно решать новые задачи распознавания рисков и реагирования на них.
ChatGPT перестанет давать подросткам практическую информацию об оружии и системах безопасности, даже если вопрос выглядит безобидным, сообщила OpenAI в пятницу. Ограничение распространяется на подростковые аккаунты, в которых нет признаков насильственных намерений.
OpenAI объявила об изменении в блоге, пообещав также публиковать «Отчёт о безопасности сообщества» (Community Safety Report), посвящённый предотвращению насилия. По словам компании, в третьем квартале она более 200 раз передавала информацию правоохранительным органам. Новые меры защиты начнут внедряться в ближайшие несколько недель.
Меньше подробностей о прошлых нападениях — для всех
Для всех пользователей ChatGPT будет сообщать меньше подробностей о прошлых массовых нападениях и их исполнителях, даже если эти сведения доступны в других местах в интернете. Чат-бот не станет восстанавливать ход нападения, в том числе какое оружие использовал нападавший и как он его раздобыл. Он также будет избегать детальных сравнений того, какой ущерб причинили те или иные нападения.
«Эти ограничения действуют независимо от возраста пользователя и причины, по которой он задаёт вопрос», — написала OpenAI.
По словам OpenAI, пользователи по-прежнему смогут спрашивать о том, как подобные события сказались на пострадавших и сообществах, а также как распознать тревожные признаки.
Если в чате появятся признаки того, что человек зациклен на насилии или на причинении серьёзного вреда другому человеку, ChatGPT сможет автоматически завершить разговор. Если ChatGPT завершит по этой причине несколько чатов, OpenAI может временно приостановить аккаунт.
Подростки, проверка возраста и родители
OpenAI сообщила, что усовершенствовала систему прогнозирования возраста, которая по таким сигналам, как поведение, оценивает, не младше ли пользователь 18 лет. Теперь она постоянно проверяет новые сигналы и при необходимости переводит пользователей в подростковый режим. Взрослые, попавшие туда по ошибке, могут подтвердить свой возраст через Persona — партнёра OpenAI по верификации возраста.
С июля родители со связанными аккаунтами получают уведомление, если OpenAI деактивирует аккаунт подростка из-за насилия. OpenAI сообщила, что работает над уведомлениями на случай, когда она приостанавливает аккаунт подростка за неоднократное обсуждение насилия.
«Создание эффективных механизмов защиты от насилия в системах ИИ требует решения новых задач по распознаванию рисков и надлежащему реагированию на них», — написала OpenAI.
Первый отчёт — в начале 2027 года
Первый «Отчёт о безопасности сообщества» выйдет в начале 2027 года и охватит вторую половину 2026 года; обновления будут выходить каждые полгода. По словам компании, в нём будет объяснено, как OpenAI выявляет проблемы безопасности и реагирует на них, с анонимизированными примерами и данными.
Обновление дополняет меры по защите подростков в ChatGPT, которые OpenAI запустила в августе. Ранее в этом месяце Common Sense Media заявила, что ChatGPT for Teens небезопасен для лиц младше 18 лет. Восемь штатов США подали в суд на OpenAI из-за вреда, причинённого детям, а Техас подал иск против компании и Сэма Альтмана.
