Создание более полезных возможностей ChatGPT для каждого02.09.2025 04:00

Наша работа по обеспечению максимально возможной полезности ChatGPT ведется непрерывно. Мы видели, как люди обращаются к нему в самые трудные моменты. Именно поэтому мы продолжаем совершенствовать то, как наши модели распознают признаки психического и эмоционального расстройства и реагируют на них, руководствуясь экспертными рекомендациями.

Эта работа уже ведется, но мы хотим заранее рассказать о наших планах на ближайшие 120 дней, чтобы вам не пришлось ждать официальных релизов, чтобы узнать, куда мы движемся. Работа продолжится и после этого периода, но мы прилагаем целенаправленные усилия, чтобы выпустить как можно больше этих улучшений уже в текущем году.

На прошлой неделе мы выделили четыре приоритетных направления, касающихся помощи людям в момент наибольшей необходимости:

1. Расширение вмешательств для большего числа людей, находящихся в кризисной ситуации
2. Упрощение обращения в экстренные службы и получения помощи от экспертов
3. Обеспечение связи с доверенными контактами
4. Усиление защиты подростков.

Некоторые из этих задач будут продвигаться очень быстро, в то время как для других потребуется больше времени.

Сегодня мы подробнее расскажем о том, как мы сотрудничаем с экспертами для руководства нашей работой, используем наши модели логического вывода в деликатные моменты, а также приведем детали одного из наших приоритетных направлений: усиление защиты подростков.

Искусственный интеллект — это нечто новое и развивающееся, и мы хотим быть уверены, что наш прогресс основывается на глубоких знаниях в области благополучия и психического здоровья. Наш Экспертный совет по благополучию и искусственному интеллекту и наша Глобальная сеть врачей совместно обеспечивают как глубину специализированной медицинской экспертизы, так и широту перспектив, необходимых для формирования нашего подхода. Мы поделимся подробностями об этих инициативах в ходе нашей 120-дневной программы.

Экспертный совет по благополучию и искусственному интеллекту

Ранее в этом году мы приступили к созыву совета экспертов в области развития молодежи, психического здоровья и взаимодействия человека с компьютером. Роль совета заключается в формировании четкого, основанного на фактах видения того, как ИИ может поддерживать благополучие людей и помогать им процветать.

Их мнение поможет нам определить и измерить благополучие, установить приоритеты и разработать будущие средства защиты — такие как будущие версии родительского контроля — с учетом новейших исследований. Хотя совет будет консультировать нас по вопросам продуктов, исследований и политики, ответственность за принимаемые решения по-прежнему несет OpenAI.

Глобальная сеть врачей

Этот совет будет работать в тандеме с нашей Глобальной сетью врачей — более широким объединением, насчитывающим свыше 250 практикующих врачей из 60 стран, с которым мы сотрудничали в прошлом году в рамках таких инициатив, как оценки Healthbench, разработанные для более точного измерения возможностей систем ИИ в сфере здравоохранения.

Из этого более широкого пула более 90 врачей из 30 стран — включая психиатров, педиатров и врачей общей практики — уже внесли свой вклад в наши исследования о том, как наши модели должны вести себя в контексте психического здоровья. Их отзывы напрямую влияют на наши исследования безопасности, обучение моделей и другие меры, помогая нам быстро привлекать нужных специалистов в случае необходимости.

Мы привлекаем в нашу сеть еще больше клиницистов и исследователей, в том числе обладающих глубокой экспертизой в таких областях, как расстройства пищевого поведения, употребление психоактивных веществ и здоровье подростков.

Наши модели логического вывода — такие как GPT‑5‑thinking и o3 — созданы для того, чтобы тратить больше времени на обдумывание и анализ контекста перед ответом. Обученные с помощью метода, который мы называем преднамеренным выравниванием (deliberative alignment), наши тесты показывают⁠, что модели логического вывода более последовательно соблюдают и применяют правила безопасности, а также более устойчивы к состязательным (adversarial) промптам.

Недавно мы представили маршрутизатор реального времени, способный выбирать между эффективными чат-моделями и моделями логического вывода в зависимости от контекста беседы. В скором времени мы начнем перенаправлять некоторые деликатные разговоры — например, когда наша система обнаруживает признаки острого стресса — на модель логического вывода, такую как GPT‑5‑thinking, чтобы она могла предоставить более полезные и благоприятные ответы, независимо от того, какую модель пользователь выбрал изначально. Мы будем тщательно совершенствовать этот подход.

Многие молодые люди уже используют ИИ. Они входят в число первых «цифровых аборигенов эпохи ИИ», растущих с этими инструментами как с частью повседневной жизни, подобно тому, как предыдущие поколения росли с интернетом или смартфонами. Это открывает реальные возможности для поддержки, обучения и творчества, но также означает, что семьям и подросткам может потребоваться помощь в установлении здоровых границ, соответствующих текущей стадий развития подростка.

Родительский контроль

Ранее в этом году мы начали создавать больше возможностей для совместного использования ChatGPT семьями и поиска оптимальных решений для дома. В течение следующего месяца родители смогут:

• Связать свой аккаунт с аккаунтом подростка (минимальный возраст — 13 лет) с помощью простого приглашения по электронной почте.
• Контролировать то, как ChatGPT отвечает их подростку, с помощью соответствующих возрасту правил поведения модели, которые включены по умолчанию.
• Управлять отключением определенных функций, включая память и историю чатов.
• Получать уведомления, когда система обнаруживает, что их подросток находится в состоянии острого стресса. Экспертные рекомендации помогут реализовать эту функцию так, чтобы поддерживать доверие между родителями и подростками.

Эти элементы управления дополняют функции, которые мы внедрили для всех пользователей, включая внутриприложенные напоминания во время длительных сессий, поощряющие делать перерывы.

Эти шаги — только начало. Мы продолжим учиться и совершенствовать наш подход, руководствуясь экспертными оценками, с целью сделать ChatGPT максимально полезным. Мы с нетерпением ждем возможности поделиться нашими успехами в течение следующих 120 дней.

Автор