Создаю чат-ботов для поддержки клиентов на Wikibot
Часто получаю вопрос: "Наши программисты сами сделали бота и на тестовых вопросах работает отлично, но при ответах на реальные вопросы пользователей начинается треш. Как сделать супер промпт чтобы бот не глючил?".
Ответ простой: "Серебряной пули нет, задачу нужно разбивать на части и использовать разные инструменты для решения разных проблем".
Retrieval Augmented generation - генерация ответа с использованием результатов поиска. RAG-архитектура - это подход к созданию приложений, в которых большая языковая модель без дополнительного обучения отвечает на вопросы с использованием информации из внутренней базы знаний или документов компании. Я не описываю архитектуру, так как уже существует множество статей на эту тему (langchain, habr).
В этом году мы начали создавать RAG-систему для техподдержки клиентов в виде чат-бота. Бот парсит документацию/инструкции и отвечает на обращения пользователей в чате или по почте, как специалист первой линии поддержки. Сейчас она ежедневно обрабатывает 1000+ запросов и ей пользуются 10+ компаний. Создать RAG может даже школьник, однако внедрить её в реальный бизнес - совершенно другая история.
Бизнес пользователи будут жаловаться, что система отвечает слишком расплывчато, или слишком коротко, или до конца не понимает суть вопроса. Пользователи сервиса могут задавать очень длинные вопросы (больше 1000 символов), уточняющие вопросы, два-три вопроса в одном сообщении и ещё множество других вариаций.
Да, на простые вопросы ответит любая RAG-система, но если вы не сможете предоставить бизнесу четкие правила и инструменты обработки сложных кейсов, то ваш статистический попугай скоро всех разочарует.
В статье представлена инструкция по настройке бота, которую мы даем нашим клиентам. Эта инструкция будет полезна специалистам поддержки и разработчикам подобных систем. Я убрал из статьи все упоминания продукта, но не стал сильно менять текст, чтобы вы могли использовать статью для создания своих инструкций.
Привет, аналитики, руководители и основатели Business intelligence компаний!
Я создаю сервис WikiBot, который обучается по документации и консультирует пользователей в чате, как специалист первой линии поддержки. Наш чат-бот понимает вопрос и отвечает как человек.
Весь мир двигается в сторону использования ИИ-помощников. Людям нравится получать результаты просто давая команды на родном языке.
Предлагаю вам, совместно с моей командой, создать продукт Dashboard.AI, который будет обладать следующим функционалом:
| Признак | Фордизм | Постфордизм |
|---|---|---|
| Базисная ориентация | Продукт | Клиент |
| Снижение стоимости единицы продукции | За счет объёмов | За счет быстрой переналадки оборудования |
| Работник | Рабочая сила (Узкие, малоквалифицированные рабочие) | Носитель компетенций (вектор развития, многофункциональные специалисты) |
| Организационная форма | Отдельные рабочие места | Командная работа |
| Отношение к браку | Допустимый уровень | Абсолютное качество |
| Инновации осуществляются | Специалистами | Всем персоналом |
Неспособность разрешить какую-то проблему вполне может объясняться тем, что вы застряли в «колее» правил. Мы все живем по правилам — укоренившимся в нас шаблонам мышления, которые ошибочно принимаем за истину. Наши правила формируются естественным образом в результате многократного использования одних и тех же идей. Следуя правилам, мы постепенно увязаем в глубокой «колее», и тогда любые неординарные идеи остаются вне нашего поля зрения.
