Pull to refresh

Слабый ML/AI — серьёзная угроза для цифровизации

Level of difficultyEasy
Reading time2 min
Views2.2K

Любая цифровизация предполагает использование цифровых каналов связи для коммуникации и передачи информации.

Однако, цифровизации угрожает, элементарно, внедрение ML/AI и автоматических алгоритмов для определения спама и блокировке таких сообщений.

ML и AI принимает решение о спаме в электронной почте
ML и AI принимает решение о спаме в электронной почте
Автоматические алгоритмы принимают решения о спам-звонках и нежелательных СМС
Автоматические алгоритмы принимают решения о спам-звонках и нежелательных СМС

Слабые модели ML/AI и упрощенные алгоритмы наносят серьезный удар по цифровизации. Под автоматическую блокировку спама попадают важные email и SMS-уведомления:

  • Получатели выбирают получать уведомления по электронной почте или в SMS.

  • Отправители обеспечивают отправку таких уведомлений по каналам связи.

  • Антиспам-боты ставят крест на коммуникациях и блокируют сообщения.

  • Реальные спамеры все равно находят способы обхода антиспама.

Пример:

  1. Для минимизации спама при отправке, все EMAIL имеют уникальную тему, текст и вложение. Однако, антиспам-система все равно считает их спамом и блокирует отправку. Только потому, что письма чем-то похожи, но они разные и важно получить каждое письмо.

    Если раньше письмо хотя бы можно было найти в папке "Спам", то теперь автоматически блокируется почтовый ящик отправителя. Коммуникации нарушаются

Не спам-письма по решению ML/AI автоматически блокируются для отправки
Не спам-письма по решению ML/AI автоматически блокируются для отправки
  1. Тоже самое происходит с SMS, которые через раз блокирутся с подозрением на спам. Только потому, что машина делает ежедневно несколько рейсов.

    Да, тексты могут быть похожими, но они разные и важно получить каждое СМС вовремя. Коммуникации нарушаются

Не спам-СМС по решению автоматических алгоритмов блокируются для отправки
Не спам-СМС по решению автоматических алгоритмов блокируются для отправки

Техподдержка разводит руками, ссылаясь на автоматические алгоритмы и машинной обучение. Неконтролируемые и неуправляемые ML/AI - это опасные системы.

Электронная почта и СМС, как средство коммуникации, не гарантируют отправку и доставку таких сообщений, даже когда эта информация нужна получателю.

Задачей цифровизации становится борьба с антиспам-системами, которые угрожают цифровизации. Раньше были бюрократические преграды, а теперь - цифровые, машинно-обученные.

Что делать? Как бороться с антиспам-системами?

Tags:
Hubs:
Total votes 3: ↑2 and ↓1+1
Comments17

Articles