Темы



OpenAI добавит цифровой водяной знак к тексту и коду, созданным в ЕС05.10.2026 21:55

Коротко сгенерировано ИИ по тексту статьи
  • OpenAI вскоре начнёт добавлять невидимый водяной знак к текстам и коду, созданным в ЕС, с помощью системы textGrain.
  • Детектор распознаёт статистический сигнал, но точность для коротких текстов составляет около 80%; редактирование также снижает точность.
  • Водяной знак не включат по умолчанию, кроме подходящих текстовых ответов ChatGPT и Codex в ЕС; компаниям, уже работающим на рынке, дано время до 2 декабря.

Почему это важно: Это необходимо для соблюдения правил ЕС о прозрачности ИИ, требующих машиночитаемой идентификации текстовых результатов.

Это необходимо для соблюдения новых правил прозрачности в сфере ИИ, действующих в регионе.

OpenAI объявила о планах выполнить часть новых правил Европейского союза о прозрачности ИИ. Вскоре компания начнёт добавлять невидимый водяной знак к текстам и коду, созданным в ЕС. Ранее в этом году аналогичный шаг предприняла Anthropic.

OpenAI использует собственную систему под названием textGrain, которая «добавляет невидимый статистический сигнал в выбор слов моделью». После добавления сигнала специальный детектор может обнаружить его и определить, есть ли в тексте водяной знак.

По словам компании, система «не уступила другим подходам или превзошла их», например SynthID для текста. Однако OpenAI предупреждает: «Высокая эффективность в идеальных условиях не гарантирует надёжного обнаружения при повседневном использовании».

Если сказать проще, «система может срабатывать не всегда». Компания признаёт, что короткие тексты обнаруживать сложнее: точность составляет около 80%. То же относится к «контенту, например, по математике». Даже редактирование текста, похоже, снижает точность. OpenAI планирует сделать технологию доступной в открытом доступе, чтобы другие могли её дорабатывать.

Водяной знак не будет включён по умолчанию, за исключением «подходящих текстовых ответов ChatGPT и Codex в Европейском союзе». Клиенты смогут включить его «для отдельных моделей», однако компания не уточнила, какие модели будут доступны широкой публике по всему миру. 

К программному обеспечению для обнаружения водяных знаков OpenAI относится с большей осторожностью. Изначально доступ к нему получат только «одобренные исследователи и экспертные организации». Кроме того, детектор не устанавливает личность пользователя и не раскрывает запросы или переписку.

Статья 50 закона ЕС об ИИ обязывает поставщиков генеративных ИИ-систем делать текстовые результаты идентифицируемыми в машиночитаемом формате. Это требование уже распространяется на новые компании, выходящие на рынок, но у компаний, работающих на рынке ранее, есть время до 2 декабря, чтобы выполнить его. Это касается, разумеется, таких организаций, как OpenAI и Anthropic, а также Microsoft, Google, Meta и других.

©  GDGT.ru

Об этом также пишут