Комментарии 1
Эта статья про то какими возможностями обладает наша RAG-система чтобы бизнес смог настроить её как нужно и про алгоритм настройки бота для конкретного бизнеса.
О том как работает наша RAG-система изнутри мы напишем отдельный пост.
Тут лишь коротко опишу вариант решения проблем.
Очень длинные сообщения от пользователей
Можно нормализовывать вопрос спрашивая LLM “Коротко сформулируй что хотел пользователь {message}”. И затем запускать основной алгоритм.
Или можно сообщения больше 1000 символов переключать на оператора.
Сообщения от пользователей в которых больше одного вопроса
Можно сплитать по знакам вопроса “?” и задавать в LLM по отдельности.
Можно спрашивать LLM “Выдели главный вопрос {message}” т.к. обычно вопросы связанные. И затем запускать основной алгоритм. Наши клиенты говорят, даже если задача решена на половину это имеет пользу.
Оператор беря тикет может дополнить ответ, это быстрее чем искать информацию и отвечать полностью.
Идентификация и обработка приветствий
Тут тоже нет универсального решения, большинство кейсов может закрыть список заранее готовых фраз. Но никто не застрахован от “Превет медвет” и снова нужно подключать LLM.
Почта, номер телефона и другие персональные данные
Их лучше всегда вырезать на входе, и для клиента и для качества ответа.
Уточняющие вопросы
Когда пользователь получил ответ LLM, он может задать уточняющий вопрос. Можно спросить LLM “Вопрос {message_2} это уточняющий вопрос к {answer_1}”. Если да из двух вопросов сделать один и И затем запускать основной алгоритм.
В общем деталей очень много и нужна отдельная статья.
Инструкция по настройке RAG-системы для тех поддержки клиентов