Безопасность подростков, свобода и конфиденциальность16.09.2025 06:00

Некоторые из наших принципов противоречат друг другу, и мы хотели бы объяснить решения, которые мы принимаем в ситуации столкновения интересов между безопасностью подростков, свободой и конфиденциальностью.

Для нас и для общества в целом чрезвычайно важно, чтобы право на конфиденциальность при использовании искусственного интеллекта было защищено. Люди обсуждают с ИИ все более личные темы; это отличается от предыдущих поколений технологий, и мы считаем, что такие беседы могут стать одним из наиболее чувствительных с личной точки зрения хранилищ данных, которые у вас когда-либо будут. Если вы говорите с врачом о своей медицинской истории или с юристом о правовой ситуации, мы — как общество — решили, что в наших общих интересах сохранять эту информацию конфиденциальной и обеспечивать ее более высокий уровень защиты. Мы убеждены, что такой же уровень защиты должен применяться и к беседам с ИИ, к которому люди все чаще обращаются с деликатными вопросами и личными проблемами. Мы выступаем за это перед лицом регуляторов и политиков.

Мы разрабатываем передовые функции безопасности, чтобы гарантировать конфиденциальность ваших данных даже от сотрудников OpenAI. Как и в случае с профессиональной тайной в других сферах, здесь будут определенные исключения: например, автоматизированные системы будут отслеживать потенциальное серьезное злоупотребление, а самые критические риски — угрозы чьей-либо жизни, планы причинить вред другим или масштабный ущерб для общества, такой как потенциальный крупный инцидент с кибербезопасностью, — могут передаваться на рассмотрение людям.

Второй принцип касается свободы. Мы хотим, чтобы пользователи могли использовать наши инструменты так, как они хотят, в очень широких рамках безопасности. Мы работаем над расширением свободы пользователей по мере того, как наши модели становятся все более управляемыми. Например, поведение нашей модели по умолчанию не предполагает большого количества флирта, но если взрослый пользователь попросит об этом, он должен получить желаемое. Более сложный пример: модель по умолчанию не должна давать инструкции о том, как покончить жизнь самоубийством, но если взрослый пользователь просит помочь написать художественный рассказ, в котором изображено самоубийство, модель должна помочь с таким запросом. «Относитесь к нашим взрослым пользователям как к взрослым» — так мы формулируем это внутри компании, расширяя свободу настолько, насколько это возможно без причинения вреда или ущемления чьей-либо чужой свободы.

Третий принцип касается защиты подростков. Мы ставим безопасность выше конфиденциальности и свободы для подростков; это новая и мощная технология, и мы считаем, что несовершеннолетние нуждаются в серьезной защите.

Во-первых, мы должны отделить пользователей младше 18 лет от тех, кто старше (ChatGPT предназначен для лиц от 13 лет и старше). Мы создаем систему прогнозирования возраста, которая оценивает возраст на основе того, как люди используют ChatGPT. Если возникают сомнения, мы перестрахуемся и по умолчанию предоставим режим для пользователей младше 18 лет. В некоторых случаях или странах мы также можем запросить удостоверение личности (паспорт); мы понимаем, что это компромисс с точки зрения конфиденциальности для взрослых, но считаем его оправданным.

Мы будем применять иные правила к подросткам, пользующимся нашими услугами. Например, ChatGPT будет обучен не вести вышеупомянутые флиртующие беседы по запросу и не участвовать в обсуждениях самоубийств или самоповреждений даже в контексте творческого письма. И если у пользователя младше 18 лет возникнут суицидальные мысли, мы постараемся связаться с родителями пользователя, а если это не удастся, в случае неминуемой угрозы обратимся в компетентные органы. Сегодня мы рассказали подробнее о том, как мы создаем систему прогнозирования возраста и новые средства родительского контроля, чтобы все это работало.

Мы понимаем, что эти принципы противоречат друг другу, и не все согласны с тем, как мы разрешаем это противоречие. Это непростые решения, но после обсуждения с экспертами мы считаем этот путь наилучшим и хотим действовать прозрачно в отношении наших намерений.

Автор