Темы



Pangram расширяет свои инструменты обнаружения ИИ на видео и изображения

Коротко сгенерировано ИИ по тексту статьи
  • Подписчики Pangram теперь могут проверять видео: инструмент оценивает участие ИИ, различает частичную и полную генерацию и показывает тепловую карту.
  • Внутренний тест компании показал точность видеомодели выше 98%.
  • Модель изображений доступна в расширении Chrome: компания сообщает о выявлении более 99% ИИ-изображений при 0,27% ложных срабатываний; ниже 512 × 512 точность снижена.

Компания берётся за новые виды ИИ-мусора.

A screenshot of Pangram's video detection tool and heatmap feature.
Pangram

Pangram, создатель популярного инструмента для распознавания текстов, сгенерированных ИИ, выпустила новые инструменты для выявления созданных ИИ изображений и видео.

После обновления подписчики Pangram могут загружать видео и получать оценку того, использовался ли ИИ для создания или редактирования ролика. По словам компании, инструмент умеет отличать «частично ИИ-шные» ролики от полностью сгенерированных ИИ. Также в нём есть «тепловая карта», которая показывает, какие элементы видео, вероятно, созданы ИИ.

Компания утверждает, что модель, лежащая в основе функции распознавания видео, «особенно хорошо справляется с выявлением видео, созданных передовыми ИИ-моделями», и в ходе тестирования она значительно лучше других инструментов находила ИИ-ролики. Согласно одному из внутренних тестов, описанных компанией, видеомодель выявляла ИИ-контент с точностью более 98%.

Pangram также улучшила распознавание ИИ-изображений. Ранее компания выпустила исследовательскую предварительную версию своей модели для изображений — Pangram Image 1.0. Теперь эта модель доступна в расширении компании для Chrome, которое может автоматически сканировать изображения во время просмотра страниц и помечать те, что, вероятно, созданы ИИ.

По данным компании, в ходе тестирования её модель для изображений выявила более 99% ИИ-изображений при доле ложноположительных срабатываний 0,27%. Разумеется, как и у других инструментов распознавания ИИ-изображений, здесь есть оговорки. Компания сообщает, что при разрешении ниже 512×512 «результаты будут сопровождаться предупреждением о пониженной достоверности». Возможно, именно этим объясняется то, что на изображении, которым поделился генеральный директор Pangram Макс Сперо и где расширение для Chrome работает на сайте Pinterest, для двух картинок, явно не являющихся настоящими фотографиями, был выдан результат «не уверен».

Сперо отметил, что при разработке модели для распознавания изображений возникали и другие трудности. «Большинство камер смартфонов, включая iPhone, в той или иной степени применяют ИИ-постобработку, чтобы добавить детали к реальным фотографиям, — пояснил он в посте в X. — Нам пришлось создать модель, устойчивую к такой постобработке и при этом понимающую разницу между ИИ-правками и полностью сгенерированными ИИ изображениями». А изданию Pirate Wires он рассказал, что компания отложила выпуск модели для изображений, чтобы протестировать её на нескольких iPhone 18 Pro, поскольку изначально модель помечала снимки с камер этих смартфонов как созданные ИИ.

Новые возможности Pangram по распознаванию ИИ-изображений и видео уже доступны обладателям подписки Pangram. Пользователи с бесплатной учётной записью могут проверить несколько изображений, не оформляя платный тариф.

©  GDGT.ru

Об этом также пишут