Comments 6
Сложилось мнение что эти кибер угрозы из раздела неуловимого Джо - нафиг никому не надо. …
Я так думал, когда у меня была сетка из мелких сайтов чисто для себя (~3000 посетителей в сутки) и пол года назад на них пошел бесконечный DDOS + боты скликивающие (казалось бы, кому это нужно, если там суммы копеечные). Сейчас же растёт интерес к автоматизации с тем же n8n (появляются как грибы после дождя конторы, которые продают и интегрируют чат ботов) и внезапно много людей ломанулось в чат боты конкурентов скручивать токены, поэтому опубликовал статью.
получать внутреннюю коммерческую информацию в процессе общения - рабочая и применяемая техника.(начиная от аналитики и завершая коммерческим шпионажем)
Prompt Injection для сбора конфиденциальной информации - а это чем-то принципиально отличается от сбора информации через классический АПИ? В том смысле, что если система не проверяет права пользователя на доступ к той или иной информации (на этапе Retrieval), то причем тут ИИ и "новая" киберугроза? Классический Broken Access Control из топовой десятки OWASP.
Аналогично про OSINT (оно вообще по описанию в статье звучит весьма похоже на предыдущий раздел).
ИИ Агенты как новая киберугроза: бизнесы теряют деньги и данные, не понимая почему