OpenAI внедряет водяные знаки в тексты ChatGPT и Codex в ЕС06.10.2026 00:12

В ближайшие недели OpenAI добавит невидимый водяной знак к текстам, созданным ChatGPT и Codex в ЕС. Изменение коснётся пользователей, соответствующих установленным требованиям, на всех тарифных планах, но только в ЕС, сообщила компания в публикации в блоге в понедельник. OpenAI заявила, что действует в ответ на Закон ЕС об искусственном интеллекте, который требует, чтобы созданный ИИ текст можно было идентифицировать с помощью машин.

На старте OpenAI не будет включать водяные знаки для текстов по умолчанию во всём мире. Региональный подход позволит компании изучить реальное использование технологии и отзывы о ней, говорится в сообщении. Клиенты API в любой стране уже сегодня могут подключить эту функцию для некоторых моделей. В API водяные знаки по умолчанию останутся отключёнными. OpenAI также сотрудничает с облачными партнёрами, чтобы они предлагали эту функцию в своих сервисах на базе моделей компании.

Как работает textGrain

Система под названием textGrain добавляет скрытый статистический сигнал в выбор слов моделью. Затем детектор ищет этот сигнал. OpenAI заявила, что textGrain не уступила другим протестированным подходам, включая SynthID для текста от Google, а в некоторых случаях показала лучшие результаты. Компания опубликовала технический отчёт, подготовленный совместно с исследователями из Пенсильванского университета и Йельского университета.

По данным OpenAI, результаты тестирования модели Astra не показали существенной разницы при включённом водяном знаке. Компания также планирует открыть исходный код технологии.

Ограничения технологии

OpenAI также описала ограничения системы. При целевом уровне ложных срабатываний в 1% детектор обнаружил водяной знак примерно в 80% фрагментов объёмом 200 токенов на такие темы, как психология. Для фрагментов объёмом 400 токенов этот показатель составил около 95%. Замена 10% слов синонимами снизила обнаружение примерно с 92% до 66%. Замена четверти слов уменьшила показатель до 17%. По словам компании, в математических текстах, где выбор слов менее гибкий, уровень обнаружения был значительно ниже.

Водяной знак не позволяет установить личность пользователя, оценить вклад человека, определить авторство или проверить достоверность текста, заявила OpenAI. Отсутствие водяного знака также не доказывает, что текст написал человек. Он может быть слишком коротким, отредактированным или переведённым либо созданным с помощью инструментов другой компании.

«Эти ограничения стали одной из причин, по которым на начальном этапе мы предоставим доступ к детектору только одобренным исследователям и экспертным организациям: они помогут нам оценить надёжность технологии и варианты её ответственного применения», — написала OpenAI.

Приём заявок открывается сегодня, а доступ будет предоставляться индивидуально, в соответствии с Кодексом практики ЕС, сообщила OpenAI. Детектор сообщает, обнаружил ли он водяной знак OpenAI, но не устанавливает личность пользователя и не раскрывает промпты. OpenAI заявила, что расширит доступ, когда результаты можно будет интерпретировать ответственным образом. Её инструменты для проверки изображений и аудио остаются общедоступными.

Сроки ЕС

Статья 50 Закона об искусственном интеллекте требует от поставщиков генеративного ИИ делать создаваемые ими тексты машиночитаемыми. У поставщиков, уже работающих на рынке, есть время до 2 декабря, чтобы выполнить это требование, сообщает Engadget.

В августе Anthropic начала добавлять водяные знаки к текстам Claude по всему миру, с некоторыми исключениями. С тех пор появились инструменты для удаления водяных знаков ИИ. Google DeepMind также помечает водяными знаками разработанные ИИ белки с помощью SynthID.

©  TheNextWeb.ru