Сервис такси разыгрывает базу контактов клиентов и водителей09.12.2016 15:48

Популярный украинский сервис такси Uklon регулярно устраивает розыгрыши среди своих водителей и клиентов. По результатам каждого розыгрыша они публикуют на свою facebook страницу видео с контактными данными участников: имя и адрес электронной почты (пример). Фрагмент кадра:

1c12636901354a89a4abd3b695a1c559.png

В оригинальном видео адреса не размыты, их для статьи размыл я, чтобы не распространять эти данные дальше. На мое письмо в их поддержку, что это не очень хорошая идея:

Добрый день!
Нельзя в видео (ссылка) выкладывать адреса и имена людей.
1. Во-первых, ваши конкуренты могут получить список ваших клиентов и водителей
2. Во-вторых, вы нарушаете закон Украины про доступ к персональным данным

Они ответили, что им все равно:
Здравствуйте, Денис, при регистрации каждый пользователь дает согласие на использование его персональных данных uklon.com.ua/document/useragreement — пункт 2.6. Большое спасибо за ваш отзыв.

Поэтому я решил написать небольшой пост, как можно получить контактные данные с видео, не используя какие-то специальные умения. Дисклаймер: этот пост носит образовательный характер, и демонстрирует как не стоит обращаться с данными клиентов.

1. Скачиваем видео


Есть много сервисов для скачивания видео с facebook. Я воспользовался http://www.fbdown.net/, он дает прямую ссылку на видео. Все последующие примеры будут на Убунте, но должны аналогично работать и в других ОС.

2. Разбиваем на кадры


В исходном видео список контактов показан в первых 17 секундах видео. С помощью ffmpeg мы сохраняем первые 17 секунд видео, как последовательность png изображений: 
$ ffmpeg -i video.mp4 -t 00:00:17 out%d.png

3. Подготавливаем к OCR


267fdb7a050b4a78a76b11874fef7ce7.png
Для распознавания мы будем использовать свободный OCR tesseract. Который довольно неплохо работает, но чувствителен к качеству исходных изображений.

Обрежем все лишнее используя ImageMagick
с кадров (начиная с координат 40, 202 и размеров 345×421). 

convert '*.png[345x421+40+202]' thumbnail%03d.png

Должно получиться как на картинке справа, без размытия конечно же.

Tesseract плохо определяет небольшие буквы, поэтому в его мануале рекомендуют просто увеличить скриншоты в 2–3 раза: 

convert thumbnail*.png -filter Lanczos -resize 300% final%d.png

4. Распознавание


Приходимся по всем файлам и распознаем. Ключом -psm 4 мы указываем, что хотим чтобы tesseract воспринимал текст как одну колонку. А ключом load_system_dawg=0, что не надо использовать словари при распознавании: 
for i in final*.png; do tesseract $i stdout -psm 4 -l eng+rus -c load_system_dawg=0; done > text.txt

Удаляем дубликаты — и наша база готова: 

sort -u text.txt > uniq.txt

Выводы


В результате работы в базе довольно много ошибок. И есть два варианта улучшения:
  • использовать коммерческие OCR;
  • настроить шаблоны для tesseract, чтобы он знал, что мы распознаем адреса электронной почты.

В любом случае цель статьи было показать не качество распознавания, а принципиальную возможность сделать это быстро и с минимальными ресурсами.

Комментарии (3)

  • 9 декабря 2016 в 15:36

    +1

    ↑

    ↓

    2.6. Обязуясь выполнять требования данного Соглашения, Пользователь дает свое полное, безусловное и безотзывное согласие на использование его персональных данных, предоставленных в рамках регистрации на Портале, для включения таких персональных данных в базу персональных данных Пользователей Портала.

    Если я не ошибаюсь, эти вещи так не работают)

    • 9 декабря 2016 в 15:40

      0

      ↑

      ↓

      Ну, в РФ нельзя выкладывать персональные данные в общий доступ, ибо право на обработку запрашивается, а не на публикацию. А вот как там на Украине — я без понятия.

  • 9 декабря 2016 в 15:45

    0

    ↑

    ↓

    в РФ бы прокуратура по первому же обращению лавочку прикрыла.

© Habrahabr.ru