Главный радиочастотный центр и НИУ ИТМО разрабатывают сервис Expert для проверки видеозаписей на дипфейки и скрытую ложь
Источники СМИ сообщили, что эксперты научно-технического центра ФГУП «Главный радиочастотный центр» (ГРЧЦ, входит в структуру Роскомнадзора) совместно с НИУ ИТМО разрабатывают сервис Expert, который с помощью ИИ проверяет видеозаписи на дипфейки, скрытую агрессию и ложь.
Прототип сервиса был представлен экспертам Роскомнадзора в июле. В ведомстве заинтересовались решением и попросили как можно скорее передать разработку на тестирование.
Представитель разработчиков пояснил СМИ, что сервис позволяет анализировать видеозаписи на предмет лжи и представляет интерес для оперативного выявления дипфейков. По их словам, система Expert анализирует видео или аудио, оценивая уверенность, уровень агрессии внутренней и внешней, конгруэнтность (уровень согласованности информации, передаваемой вербальным и невербальным способом) и противоречивость, сравнивает слова с научными статьями и высказываниями других специалистов.
Пока что данная система заточена на работу с английским языком. Разработчики считают, что показатели уверенности, агрессивности и конгруэнтности можно извлечь на любом языке.
Руководитель научно-исследовательской лаборатории «Когнитивная невербалика» НЦКР ИТМО пояснил СМИ, что английский выбран как самый распространённый язык. Доработка системы для получения текста из речи на русском языке у разработчиков стоит в ближайших планах.
Разработчики рассказали СМИ, что система прошла предварительное тестирование в преддверии выборов в Сенат США. «Мы проанализировали опубликованные на YouTube интервью шести кандидатов на предмет противоречивости, агрессии и уверенности в себе. Система обнаружила скрытую агрессию в заявлениях трёх кандидатов, а одного из них удалось уличить во лжи», — пояснил представитель ИТМО.
Эксперты отрасли уточнили СМИ, что сейчас более 90% российских разработок, связанных с ИИ, построены на основе скачанных открытых зарубежных библиотек вместе с дата-сетами для их обучения. Они считают, что на переобучение под русский язык ИТМО потребуется большой массив данных, например, анализ видеозаписей судебных процессов, а также высокие денежные затраты и несколько лет на дополнительные исследования и проверки работы системы.
В конце декабря прошлого года эксперты ГРЧЦ предложили для защиты российских геймеров от вредной информации использовать искусственный интеллект для мониторинга контента видеоигр, включая поиск там незаконного контента со сценами, содержащими детскую порнографию, призывы к совершению самоубийств и употреблению наркотиков.
В июле ГРЧЦ объявил конкурс на создание системы раннего выявления «точек информационной напряженности» в сетевых СМИ и на других ресурсах. Система под условным обозначением «Вепрь» обойдётся в 60 млн рублей. В документации к конкурсу ГРЧЦ объясняет, что под «точками информационной напряжённости» понимает «факты распространения общественно значимой информации под видом достоверных сообщений, которая создаёт угрозу причинения вреда жизни и (или) здоровью граждан, имуществу, угрозу массового нарушения общественного порядка и (или) общественной безопасности».
