Повышение безопасности и расширение возможностей молодежи с помощью глобального лидерства02.06.2026 07:00

Искусственный интеллект может стать мощным инструментом для молодежи. Он помогает учащимся разбираться в сложных концепциях, практиковать иностранные языки, готовиться к собеседованию при приеме на работу, исследовать творческие идеи или осваивать новые навыки. Подобно тому, как распространение грамотности по всему миру в середине XX века потребовало массового тиражирования печатных текстов и доступа к подготовленным преподавателям, сегодня обеспечение доступа к безопасному ИИ откроет новые возможности для персонализированного обучения, поможет сократить барьеры для малообеспеченных слоев населения и повысить готовность к работе.

Поскольку потенциальные преимущества столь значительны, крайне важно, чтобы молодежь имела доступ к ИИ безопасными, соответствующими возрасту и способствующими здоровому развитию способами. Эта ответственность не должна ложиться исключительно на плечи родителей или самих молодых людей. Компании, включая OpenAI, обязаны по умолчанию создавать продукты с надлежащими средствами защиты, одновременно предоставляя семьям инструменты и информацию для управления использованием ИИ.

Когда главы государств соберутся на саммите лидеров G7 в Эвиане (Франция) в конце этого месяца, тема безопасности молодежи при использовании ИИ станет одним из ключевых фокусов. OpenAI примет участие в обсуждении более тесного сотрудничества в области безопасности молодежи, путей совместного повышения отраслевых стандартов, а также нового призыва OpenAI к созданию международного института безопасности молодежи.

Саммит лидеров G7 представляет собой уникальную возможность для глобальной координации усилий по обеспечению безопасности молодежи. Однако специализированный институт обеспечил бы преемственность и практическую реализацию решений, выходящих за рамки одного саммита, помогая правительствам, исследователям, гражданскому обществу и бизнесу продолжать совместную работу по обмену данными, разработке руководств и повышению стандартов с течением времени.

Существует несколько надежных путей реализации этой задачи: создание нового международного института либо наделение существующего или вновь учрежденного национального института ИИ глобальным мандатом на обмен исследованиями, данными и методическими рекомендациями с партнерами по всему миру. Главное — это выполняемая им функция. Безопасность молодежи при использовании ИИ требует постоянного внимания, заслуживающих доверия данных и практических рекомендаций, способных поспевать за развитием технологий.

Подобный институт может опираться на зарождающиеся инициативы, такие как Институт безопасности молодежи при использовании ИИ организации Common Sense Media, поддерживаемый фондом OpenAI Foundation, а также на практическое сотрудничество с педагогами, в том числе на работу OpenAI с Американской федерацией учителей⁠. Кроме того, он должен опираться на опыт практического внедрения, такой как развертывание национальной программы ChatGPT в школах Эстонии, где OpenAI совместно со Стэнфордским университетом и эстонскими исследователями изучает влияние технологий для обеспечения более безопасного и эффективного их использования в обучении.

OpenAI приветствует возможность сотрудничать с правительством Франции, другими правительствами стран G7, а также с партнерами из гражданского общества, академических кругов и индустрии в этой важнейшей работе и повышать глобальные стандарты безопасности молодежи.

Мы убеждены, что надежные концепции безопасности молодежи при работе с ИИ, включая любые потенциальные соглашения, достигаемые на мероприятиях G7, должны основываться на принципах, которые мы излагаем ниже.

1. Компании должны знать, является ли пользователь несовершеннолетним, и применять средства защиты, соответствующие его возрасту. Это означает требование к поставщикам использовать такие методы, как эффективная и конфиденциальная оценка возраста, чтобы отличать несовершеннолетних от взрослых, и автоматически применять защитные меры по умолчанию, если возраст пользователя определить не удается. Без этого фундамента даже самые благие намерения по защите молодежи могут не достичь тех, кого они призваны защищать.
2. Компании должны регулярно оценивать как риски, так и преимущества для молодежи и принимать меры по их устранению —до того, как возникнет вред. Это означает требование к поставщикам проводить ежегодную оценку рисков для безопасности молодежи и внедрять соразмерные меры защиты на основе выявленных рисков. Такая оценка должна учитывать риски для молодежи с учетом стадии ее развития, эмпирические данные реального использования, а также соответствующие исследования или нормативные указания. Оценка должна учитывать не только потенциальный вред, но и то, способствует ли ИИ положительным результатам, таким как обучение, творчество, развитие навыков и доступ к возможностям.
3. Родители и опекуны должны иметь доступные, простые в использовании элементы управления, которые помогут им направлять деятельность детей, поддерживая при этом их возрастную независимость. Сюда должны входить инструменты для управления ключевыми настройками, включая память, использование данных и лимиты времени. Родительские инструменты должны активно продвигаться, чтобы родители знали об их существовании и понимали, как ими пользоваться.
4. Семьи заслуживают четкой, понятной информации о том, как компании защищают молодых пользователей, а также исчерпывающих сведений о преимуществах и рисках использования ИИ молодежью. Компании должны публиковать правила безопасности, объясняющие, какие меры защиты применяются для ограждения молодежи, какие родительские инструменты доступны и как защитные механизмы обновляются по мере изменения рисков. Такая прозрачность укрепляет доверие и помогает родителям делать осознанный выбор.
5. У компаний должны быть четкие протоколы реагирования на серьезные инциденты безопасности, включая членовредительство, эксплуатацию, груминг, материалы с изображением сексуальной эксплуатации и другие взаимодействия с высоким уровнем риска. Они должны включать оперативную поддержку, направление к соответствующим ресурсам и своевременное уведомление родителей, когда это уместно. Компании также должны проектировать свои системы так, чтобы предотвратить генерацию небезопасного или не соответствующего возрасту контента для детей, включая откровенные материалы сексуального или насильственного характера.
6. Системы ИИ, используемые молодежью, должны быть разработаны для поддержки обучения, развития и реальных взаимоотношений, а не для их замены. ИИ должен служить инструментом, который помогает молодым людям учиться, созидать, развивать навыки и готовиться к будущему. В то же время компании должны устанавливать четкие границы в сферах, где здоровое развитие зависит от человеческого суждения, межличностных отношений в реальном мире и профессиональной поддержки.
7. Личные данные несовершеннолетних должны быть защищены. Это означает запрет на таргетированную рекламу, нарушающую конфиденциальность несовершеннолетних, и запрет компаниям продавать личную информацию.
8. Концепции безопасности молодежи должны способствовать расширению возможностей, повышению цифровой грамотности и обеспечению защиты. Молодые люди должны иметь доступ к инструментам ИИ, которые поддерживают обучение, творчество, развитие навыков и будущие возможности, и одновременно обладать знаниями и навыками критического мышления, необходимыми для безопасного и ответственного использования ИИ. Это включает в себя повышение грамотности в сфере ИИ и помощь молодежи в понимании возможностей и ограничений систем ИИ, чтобы они могли уверенно и ответственно участвовать в цифровой жизни.
9. Надежные механизмы подотчетности, включая независимый аудит, имеют решающее значение для того, чтобы эти меры защиты работали на практике. Аудит должен опираться на набор общих стандартов, позволяющих проводить совместимые аудиты в различных юрисдикциях. Законодательные базы должны включать меры надзора и принудительного исполнения, позволяющие правительствам оценивать, насколько эффективно компании реализуют средства защиты молодежи, снижают выявленные риски и соблюдают обязательства по безопасности молодежи и конфиденциальности.

Эти принципы отражены в том, как мы разрабатываем и эксплуатируем ChatGPT: от поведения моделей и дизайна продуктов до экспертных мнений и поддержки в реальном мире. Мы укрепили меры безопасности для пользователей младше 18 лет, запустили родительский контроль⁠ с проактивными уведомлениями, а также передовые системы прогнозирования возраста⁠, чтобы ChatGPT мог применять более строгие меры защиты, если пользователь младше 18 лет. Наша спецификация моделей (Model Spec), описывающая поведение наших моделей, также включает специальные принципы для пользователей младше 18 лет⁠, в которых приоритетом являются безопасность подростков, учет возрастных особенностей при взаимодействии, реальная поддержка и четкие ожидания. На практике это означает более строгие ограничения в отношении членовредительства, опасных действий, графического контента, вопросов восприятия своего тела и сохранения секретов, а также призывы обращаться за проверенной офлайн-поддержкой или кризисными ресурсами в случае необходимости. Если возраст неопределен, по умолчанию применяются более строгие меры защиты.

Искусственный интеллект, созданный с соблюдением строгих мер защиты, предлагаемый с четкими рекомендациями и поддержкой со стороны семей и педагогов, может помочь молодежи безопасно извлекать выгоду из инструментов, расширяющих возможности обучения, творчества и самореализации. ИИ может помочь учащимся понимать сложные концепции, практиковать языки, улучшать свои письменные навыки, учиться программировать, организовывать исследования, изучать творческие идеи и готовиться к профессиям, которые уже претерпевают изменения. В рамках программы Education for Countries⁠ OpenAI сотрудничает с правительствами и педагогами в области внедрения технологий на основе исследований, создания локализованных обучающих инструментов и обучения учителей, чтобы интеграция ИИ опиралась на факты и реальные потребности классов. Эта работа уже поддерживает национальные образовательные инициативы в наших странах-партнерах, включая Эстонию⁠, Грецию⁠ и Сингапур⁠.

В дополнение к участию в Саммите лидеров мы проведем мероприятие OpenAI Forum⁠ в Париже, чтобы организовать практический диалог о том, как правительства, исследователи, гражданское общество, преподаватели и индустрия могут превратить общие цели безопасности молодежи в конкретные меры защиты, стандарты и практические методы внедрения. Посол Франции по делам ИИ и цифровым технологиям Клара Шаппаз присоединится к главному директору OpenAI по глобальным вопросам Крису Лехайну, лидерам в области безопасности молодежи из iRaise/Everyone.AI и другим экспертам для обсуждения того, как молодежь может извлекать пользу из ИИ, минимизируя при этом риски.

Автор