artmaro 5 янв в 16:55Обзор уязвимостей для LLM. Часть 1. АтакаВремя на прочтение7 минКоличество просмотров2.9KБлог компании Конференции Олега Бунина (Онтико)Блог компании RaftИскусственный интеллектМашинное обучение*Информационная безопасность*ОбзорВсего голосов 9: ↑9 и ↓0+12Добавить в закладки37Комментарии22
exwill 5 янв в 19:27Комментарий был измененчтобы ИИ работал безопасно и предсказуемо в интересах людей Но ведь это недостижимо. Хотя бы потому, что существуют люди, которые действуют не "в интересах людей"
artmaro 9 янв в 12:28Показать предыдущий комментарийВ 100% случаев это невозможно, хотя бы потому, что открытые модели могут злоумышленники использовать без контроля. Но будут разработаны методы и guardrails, чтобы снизить этот риск
Обзор уязвимостей для LLM. Часть 1. Атака