Как стать автором
Обновить

Слабый ML/AI — серьёзная угроза для цифровизации

Уровень сложностиПростой
Время на прочтение2 мин
Количество просмотров2.2K

Любая цифровизация предполагает использование цифровых каналов связи для коммуникации и передачи информации.

Однако, цифровизации угрожает, элементарно, внедрение ML/AI и автоматических алгоритмов для определения спама и блокировке таких сообщений.

ML и AI принимает решение о спаме в электронной почте
ML и AI принимает решение о спаме в электронной почте
Автоматические алгоритмы принимают решения о спам-звонках и нежелательных СМС
Автоматические алгоритмы принимают решения о спам-звонках и нежелательных СМС

Слабые модели ML/AI и упрощенные алгоритмы наносят серьезный удар по цифровизации. Под автоматическую блокировку спама попадают важные email и SMS-уведомления:

  • Получатели выбирают получать уведомления по электронной почте или в SMS.

  • Отправители обеспечивают отправку таких уведомлений по каналам связи.

  • Антиспам-боты ставят крест на коммуникациях и блокируют сообщения.

  • Реальные спамеры все равно находят способы обхода антиспама.

Пример:

  1. Для минимизации спама при отправке, все EMAIL имеют уникальную тему, текст и вложение. Однако, антиспам-система все равно считает их спамом и блокирует отправку. Только потому, что письма чем-то похожи, но они разные и важно получить каждое письмо.

    Если раньше письмо хотя бы можно было найти в папке "Спам", то теперь автоматически блокируется почтовый ящик отправителя. Коммуникации нарушаются

Не спам-письма по решению ML/AI автоматически блокируются для отправки
Не спам-письма по решению ML/AI автоматически блокируются для отправки
  1. Тоже самое происходит с SMS, которые через раз блокирутся с подозрением на спам. Только потому, что машина делает ежедневно несколько рейсов.

    Да, тексты могут быть похожими, но они разные и важно получить каждое СМС вовремя. Коммуникации нарушаются

Не спам-СМС по решению автоматических алгоритмов блокируются для отправки
Не спам-СМС по решению автоматических алгоритмов блокируются для отправки

Техподдержка разводит руками, ссылаясь на автоматические алгоритмы и машинной обучение. Неконтролируемые и неуправляемые ML/AI - это опасные системы.

Электронная почта и СМС, как средство коммуникации, не гарантируют отправку и доставку таких сообщений, даже когда эта информация нужна получателю.

Задачей цифровизации становится борьба с антиспам-системами, которые угрожают цифровизации. Раньше были бюрократические преграды, а теперь - цифровые, машинно-обученные.

Что делать? Как бороться с антиспам-системами?

Теги:
Хабы:
Всего голосов 3: ↑2 и ↓1+1
Комментарии17

Публикации

Истории

Работа

Data Scientist
92 вакансии

Ближайшие события

27 августа – 7 октября
Премия digital-кейсов «Проксима»
МоскваОнлайн
28 сентября – 5 октября
О! Хакатон
Онлайн
3 – 18 октября
Kokoc Hackathon 2024
Онлайн
10 – 11 октября
HR IT & Team Lead конференция «Битва за IT-таланты»
МоскваОнлайн
25 октября
Конференция по росту продуктов EGC’24
МоскваОнлайн
7 – 8 ноября
Конференция byteoilgas_conf 2024
МоскваОнлайн