Ответственный подход к запуску Sora30.09.2025 00:00

По состоянию на 26 апреля 2026 года продукт Sora больше не доступен.

Sora 2 и приложение Sora объединяют передовые технологии генерации видео с новым способом совместного творчества, и мы позаботились о том, чтобы безопасность была заложена в них с самого начала. Наш подход основан на конкретных мерах защиты:

• Идентификация контента, созданного ИИ. Каждое видео, сгенерированное с помощью Sora, содержит как видимые, так и невидимые сигналы происхождения. При запуске все результаты выводятся с видимым водяным знаком. Во все видеоролики Sora также встроены метаданные C2PA (отраслевой стандарт подписи), а у нас имеются внутренние инструменты обратного поиска изображений и аудио, которые могут с высокой точностью проследить происхождение видео вплоть до Sora, опираясь на успешные системы генерации изображений в ChatGPT и Sora 1.
• Использование образов на основе согласия с помощью персонажей. Наша цель — предоставить вам полный контроль над вашим образом с помощью персонажей в Sora. У нас есть защитные механизмы, призванные гарантировать, что ваш аудио- и визуальный образ, запечатленный в персонажах, используется только с вашего согласия. Только вы решаете, кто может использовать ваших персонажей, и вы можете в любой момент отозвать доступ. Мы также принимаем меры по блокировке изображений публичных лиц (за исключением случаев использования функции персонажей, разумеется). Видеоролики с участием ваших персонажей, включая черновики, созданные другими пользователями, всегда видны вам. Это позволяет вам легко просматривать, удалять (и, при необходимости, жаловаться на) любые видео с вашим персонажем. Мы также применяем дополнительные защитные механизмы к любому видео с персонажем, и вы даже можете настроить предпочтения относительно того, как ведет себя ваш персонаж, например, попросить его всегда носить федору.
• Защита для подростков. Sora включает в себя более строгие средства защиты для молодых пользователей, включая ограничения на контент для взрослых. Лента спроектирована так, чтобы быть подходящей для подростков, профили подростков не рекомендуются взрослым, а взрослые не могут первыми инициировать переписку с подростками. Новые инструменты родительского контроля в ChatGPT позволяют родителям управлять возможностью подростков отправлять и получать личные сообщения, а также выбирать неперсонализированную ленту в приложении Sora. Кроме того, по умолчанию для подростков действуют ограничения на непрерывную прокрутку ленты в Sora.
• Фильтрация вредоносного контента. Sora использует многоуровневую систему защиты, которая обеспечивает безопасность ленты, оставляя простор для творчества. На этапе создания защитные механизмы стремятся заблокировать небезопасный контент до его появления — включая материалы сексуального характера, пропаганду терроризма и поощрение селфхарма, — проверяя как запросы (промпты), так и результаты по множеству видеокадров и аудиорасшифровок. Мы провели тестирование на проникновение (red teaming) для изучения новых рисков и ужесточили правила по сравнению с генерацией изображений, учитывая большую реалистичность Sora и добавление движения и звука. Помимо генерации, автоматизированные системы сканируют весь контент ленты на соответствие нашим глобальным правилам использования⁠ и фильтруют небезопасные или не соответствующие возрасту материалы. Эти системы постоянно обновляются по мере выявления новых рисков и дополняются ручной модерацией, нацеленной на пресечение наиболее опасных нарушений.
• Защита аудиоконтента. Добавление звука в Sora повышает требования к безопасности, и хотя идеальных средств защиты добиться сложно, мы продолжаем серьезно инвестировать в эту область. Sora автоматически сканирует расшифровки сгенерированной речи на предмет потенциальных нарушений правил, а также блокирует попытки создания музыки, имитирующей живых артистов или существующие произведения. Наши системы спроектированы так, чтобы обнаруживать и пресекать подобные запросы, и мы удовлетворяем запросы на удаление от авторов, которые считают, что материалы, созданные Sora, нарушают их авторские права.
• Контроль со стороны пользователя и возможности обжалования. Вы сами выбираете, когда и как делиться своими видео, и можете в любой момент удалить опубликованный контент. Видео будут публиковаться в ленте только тогда, когда вы сами этого захотите. На каждое видео, профиль и комментарий можно пожаловаться в случае злоупотреблений, при этом предусмотрен четкий порядок урегулирования при нарушении правил. Вы также можете в любой момент заблокировать аккаунты, что помешает другим пользователям видеть ваш профиль или связываться с вами посредством личных сообщений.

Автор