Безопасное создание с помощью Sora23.03.2026 00:00

По состоянию на 26 апреля 2026 года продукт Sora больше не доступен.

Модель Sora 2 и приложение Sora предлагают передовые возможности генерации видео и новый способ совместного творчества, при этом мы позаботились о том, чтобы безопасность была заложена с самого начала. Наш подход опирается на конкретные меры защиты:

• Идентификация контента, созданного ИИ. Каждое видео, сгенерированное с помощью Sora, содержит как видимые, так и невидимые сигналы происхождения. Во все видеоролики Sora также встроены метаданные C2PA — подпись стандартного для отрасли формата, — и мы используем внутренние инструменты поиска по изображениям и аудио, которые позволяют с высокой точностью проследить происхождение видео и определить, что оно создано в Sora (опираясь на успешные системы генерации изображений ChatGPT и Sora 1). Многие результаты также имеют видимые динамически движущиеся водяные знаки, содержащие имя автора.
• Превращение изображений в видео с участием реальных людей. По мере того как мы продолжаем усиливать защитные механизмы Sora, мы расширяем возможности для творческого самовыражения и общения, в том числе позволяя людям создавать видео из фотографий семьи и друзей. Пользователи могут загружать изображения с людьми для создания видео в Sora, подтвердив предварительно, что они получили согласие изображенных лиц и обладают правами на загрузку этого медиафайла. Генерация видео из изображений с участием людей подлежит особо строгим правилам безопасности — даже более строгим, чем разрешено для персонажей Sora (ранее известной как функция камео). Изображения с участием детей и лиц, выглядящих молодыми, подлежат еще более жесткой модерации и ограничениям в отношении того, что можно на их основе создать. Эти видео также будут всегда содержать водяные знаки при публикации.
• Создание персонажей на основе согласия. Мы создали персонажей⁠, чтобы дать вам надежный контроль над вашим образом в Sora. Образ включает в себя вашу внешность и ваш голос. У нас действуют правила, призванные гарантировать, что ваш аудио- и визуальный образ, запечатленный в персонажах, используется только с вашего согласия. Только вы решаете, кто может использовать ваших персонажей, и вы можете отозвать доступ в любое время. Мы также принимаем меры по блокированию изображений публичных лиц, за исключением случаев использования функции персонажей. Видеоролики с участием ваших персонажей — включая черновики, созданные другими пользователями — всегда видны вам. Это позволяет вам легко просматривать, удалять (и, при необходимости, жаловаться) любые видео с участием вашего персонажа. Мы также применяем дополнительные меры безопасности к любому видео с персонажем, и вы даже можете включить еще более строгий набор правил, ограничивающий типы использования. Это включает в себя ограничение серьезных изменений вашей внешности, помещение вас в неловкие ситуации и поддержание общего постоянства вашей идентичности.
• Меры защиты для подростков. Sora включает усиленную защиту для молодых пользователей, включая ограничения на контент для взрослых. Лента спроектирована так, чтобы быть уместной для всех пользователей Sora, а потенциально опасный, небезопасный или не соответствующий возрасту контент отфильтровывается для учетных записей подростков. Профили подростков не рекомендуются взрослым, а взрослые не могут первыми инициировать переписку с подростками. Родительский контроль в ChatGPT позволяет родителям управлять тем, могут ли подростки отправлять и получать личные сообщения, а также выбирать неперсонализированную ленту в приложении Sora. Кроме того, по умолчанию для подростков действуют ограничения на непрерывную прокрутку ленты в Sora.
• Фильтрация вредоносного контента. Sora использует многоуровневую защиту для обеспечения безопасности ленты, оставляя при этом простор для творчества. На этапе создания защитные механизмы стремятся заблокировать небезопасный контент до его создания — включая материалы сексуального характера, пропаганду терроризма и призывы к селфхарму, — проверяя как текстовые запросы (промпты), так и результаты по нескольким видеокадрам и аудиорасшифровкам. Мы проводили независимое тестирование на проникновение (red teaming) для поиска новых рисков и ужесточили правила по сравнению с генерацией изображений, учитывая большую реалистичность Sora и добавление движения и звука. Помимо генерации, автоматизированные системы сканируют весь контент ленты на предмет соответствия нашим глобальным правилам использования⁠ и отфильтровывают небезопасные или не соответствующие возрасту материалы. Эти системы постоянно обновляются по мере выявления новых рисков и дополняются ручной модерацией, нацеленной на предотвращение наиболее серьезного ущерба.
• Аудиозащита. Добавление звука в Sora поднимает планку безопасности на новую высоту, и хотя достижение идеальной защиты затруднено, мы продолжаем серьезно инвестировать в эту область. Sora автоматически сканирует расшифровки сгенерированной речи на предмет потенциальных нарушений правил, а также блокирует попытки создания музыки, имитирующей реальных артистов или существующие произведения. Наши системы спроектированы так, чтобы обнаруживать и останавливать подобные запросы, и мы удовлетворяем запросы авторов об удалении контента, если они считают, что результат работы Sora нарушает их авторские права.
• Контроль со стороны пользователя и возможности защиты. Вы сами выбираете, когда и как делиться своими видео, и можете в любой момент удалить опубликованный контент. Видео попадают в ленту только тогда, когда вы сами этого захотите. На любое видео, профиль, личное сообщение, комментарий и персонаж можно пожаловаться в случае злоупотреблений, при этом предусмотрен четкий порядок действий в случае нарушения правил. Вы также можете в любой момент заблокировать учетные записи, что помешает другим видеть ваш профиль или посты, использовать вашего персонажа и связываться с вами через личные сообщения.

Автор