ДИТ Москвы запустил Telegram-бот для борьбы с дипфейками и мошенниками
Департамент информационных технологий (ДИТ) Москвы запустил бота в мессенджере Telegram под названием «Стопфейк». Бот призван помочь распознать аферистов, пытающихся украсть личные данные и деньги россиян.
У бота есть три ключевые функции:
- Анализ диалога. В бот можно прислать скриншоты переписок с подозрительным лицом, после чего ИИ укажет, с какой долей вероятности вам написал мошенник;
- Проверка на дипфейк. Боту можно отправить фото или видео, после чего ИИ просканирует материал на использование технологии подмены лица;
- Определение синтеза речи. Если отправить боту аудиофайл, бот определит наличие синтезированной речи в записи.
«Сервис работает с применением искусственного интеллекта. Текст он анализирует с помощью больших языковых моделей (LLM), а для обработки изображений использует оптическое распознавание символов. Аудиобот анализирует в два этапа: сначала определяет наличие синтезированной речи, а потом переводит звук в текст и проверяет его через LLM», — уточнили в департаменте.
Поверка Hi-Tech Mail показала, что со своей задачей бот справляется на тройку. Редакторы отправили чат-боту запись с синтезированным голосом мошенника, который выдает себя за сотрудника банка. В итоге алгоритмы сказали, что сообщение с 7% вероятностью синтезированное и на 80% мошенническое.
Антон Горелкин, депутат Госдумы, тоже протестировал бот «Стопфейк». И его опыт прошел не гладко. «Первую генерацию [бот] распознал не очень удачно (вероятность — 8%), вторую более уверенно (58%)», — сообщил Горелкин.
В целом, появление таких продуктов в широком доступе — это очень хорошая история. Уверен, что их эффективность со временем значительно улучшится.Антон ГорелкинДепутат Госдумы
Бот проработает в тестовом режиме до 27 февраля. После сервис доработают с учетом отзывов пользователей.
Ранее эксперты Роскачества рассказали, как распознать фальшивые банковские приложения.
