Слабый ML/AI = серьезная угроза для цифровизации

Любая цифровизация предполагает использование цифровых каналов связи для коммуникации и передачи информации.

Однако, цифровизации угрожает, элементарно, внедрение ML/AI и автоматических алгоритмов для определения спама и блокировке таких сообщений.

ML и AI принимает решение о спаме в электронной почте

ML и AI принимает решение о спаме в электронной почте

Автоматическое алгоритмы принимают решения о спам-звонках и нежелательных СМС

Автоматическое алгоритмы принимают решения о спам-звонках и нежелательных СМС

Слабые модели ML/AI и упрощенные алгоритмы наносят серьезный удар по цифровизации. Под автоматическую блокировку спама попадают важные email и SMS-уведомления:

  • Получатели выбирают получать уведомления по электронной почте или в SMS.

  • Отправители обеспечивают отправку таких уведомлений по каналам связи.

  • Антиспам-боты ставят крест на коммуникациях и блокируют сообщения.

  • Реальные спамеры все равно находят способы обхода антиспама.

ПРИМЕР:

  1. Для минимизации спама при отправке, все EMAIL имеют уникальную тему, текст и вложение. Однако, антиспам-система все равно считает их спамом и блокирует отправку. Только потому, что письма чем-то похожи, но они разные и важно получить каждое письмо.

    Если раньше письмо хотя бы можно было найти в папке «Спам», то теперь автоматически блокируется почтовый ящик отправителя. Коммуникации нарушаются

Не спам-письма по решению ML/AI автоматически блокируются для отправки

Не спам-письма по решению ML/AI автоматически блокируются для отправки

  1. Тоже самое происходит с SMS, которые через раз блокирутся с подозрением на спам. Только потому, что машина делает ежедневно несколько рейсов.

    Да, тексты могут быть похожими, но они разные и важно получить каждое СМС вовремя. Коммуникации нарушаются

Не спам-СМС по решению автоматических алгоритмов блокируются для отправки

Не спам-СМС по решению автоматических алгоритмов блокируются для отправки

Техподдержка разводит руками, ссылаясь на автоматические алгоритмы и машинной обучение. Неконтролируемые и неуправляемые ML/AI — это опасные системы.

Задачей цифровизации становится борьба с антиспам-системами, которые угрожают цифровизации. Раньше были бюрократические преграды, а теперь — цифровые, машинно-обученные.

Что делать? Как бороться с антиспам-системами?

© Habrahabr.ru