Комментарии 7
Браво! Отличная статья!
Картинка не очень радостная. Раньше злодейство ограничивалось естественным слабоумием злодеев, теперь у них есть доступ к технологическим костылям, дающим им невиданные возможности - BigData + LLM + космические вычислительные мощности. Уверен, они сразу же попытаются сделать мир лучше, ведь они всегда к этому стремились, правда ведь? Я перестал в этом сомневаться, когда язык запросов google стал настолько совершенен, что потерял способность сортировать результаты запроса по дате.
Классная статья! А есть уже какие-то устоявшиеся открытые решения-санитайзеры пользовательского ввода?
Устоявшихся решений нет, есть варианты инструментов:
— Из опенсорс есть rebuff.
— Есть решение от Lakera.
— У нас сейчас есть базовая модель. Мы натренировали свою модель и можем дать ее потестировать, если open source не подойдёт.
Этот самый энтерпрайз очень беспокоится, что интегрировать LLM надо везде
Почему надо везде интегрировать?
Сейчас идёт большой тренд в бизнесе по поиску применения генеративного AI: начиная от небольших компаний до крупных корпораций. Чат-боты, работа с документами, оптимизация саппорта клиентов, и много другое. Причина в том, что во многих задачах генеративный AI даёт сильное улучшение по сравнению со старыми моделями.
Бытует мнение, что если не начать разбираться сейчас, то в следующем году конкуренты получат преимущества. Мы это мнение тоже разделяем.
Немного паранойи: весёлые огромные уязвимости, которые порождают ChatGPT и LLM-модели