Комментарии 4
В целом, кейс интересный, более того, это уже мейстрим по таким работам и темам, уже пошла целая серия статей про утечки данных из LLM и способах борьбы с ними, на архиве такие статьи лежат, это я как понимаю, уже расширение и дополнение существующей атаки. Только теперь она уже оформилась и получила свое имя, чтож... затейно. Вот одна из таких статей (https://arxiv.org/pdf/2404.11262.pdf) и их поток только нарастает. Только в данном кейсе в атаку попал еще непосредственно пользователь.
Я так и не понял сути, что же на самом деле они перехватывают и как?
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Исследователи из Offensive AI Lab рассказали, как хакеры могут читать переписку пользователей с чат-ботами