![](https://habrastorage.org/r/w780/getpro/habr/upload_files/8c9/c18/c4a/8c9c18c4abbdfdaf88302ea3c844b232.jpg)
Хакеры придумывают всё более изощренные способы атаки на искусственный интеллект. Один из наиболее интересных — это атака «плавающего окна внимания»: злоумышленники манипулируют контекстом диалога с ИИ, подталкивая его к опасным выводам и смещению фокуса. Чрезвычайно тонкий подход, позволяющий обходить защиту ИИ. Демонстрирую на примерах...