ИИ убивает службу поддержки — даже несмотря на зелёные метрики

[Tifus_haos]

Чат-боты в поддержке это боль. В СДЭКе я так и не смог пробиться к кожаному мешку, что бы порешать вопросики. Может людей в поддержке там уже и нет.

[mankovsky]

Здесь особенно важна разница между быстрым ответом и решённой проблемой. После подключения бота метрики первой линии действительно становятся зелёными, но часть обращений просто исчезает из статистики: клиент перестал отвечать, повторил вопрос через другой канал или ушёл.

Я бы измерял не только время ответа и CSAT, но и повторное обращение по той же теме за 7–14 дней, долю переоткрытых диалогов, успешность передачи оператору и количество случаев, когда человек заново объясняет контекст. Ещё полезно разделять «диалог закрыт» и «результат подтверждён клиентом».

Получалось ли у вас связывать обращения одного клиента между каналами и считать повторный контакт продолжением исходной проблемы, а не новым тикетом?

[Innesiya]

Пункт про «побуждать ИИ проверять факты перед ответом» — самый слабый в списке решений, и он же спорит с приведенным выше исследованием MIT: если уверенность формулировок не коррелирует с правильностью, то самопроверка вернет тот же неверный ответ, только теперь дважды подтвержденный. На практике работает не самопроверка, а жесткое ограничение источника: отвечать только по найденному документу базы знаний, с видимой ссылкой на него, и молчать, если источник не нашелся — тогда галлюцинация превращается в честное «не знаю» и эскалацию. Как это сделано в Collabis: бот умеет отказываться отвечать, когда подходящего документа в базе нет, и какая доля обращений у вас в эту ветку попадает?

[MegaplanCEO]

Действительно, самопроверка не защитит от галлюцинаций ИИ, но поможет корректно фильтровать информацию.

У нас в Collabis ИИ-агент ищет информацию в рабочем пространстве и отвечает на основании найденных страниц, показывая источник. Таким образом, при ограниченном контексте можно рассчитывать на более точный ответ.

[alsibalan]

Согласен с автором — проблема гораздо глубже, чем просто «робот вместо человека». Когда мы меряем успех внедрения ИИ скоростью ответа, а не качеством решения, мы действительно убиваем доверие клиентов. Особенно показателен пример с Air Canada, когда чат-бот дал неверную информацию о возврате, и компании пришлось отвечать в суде.

Что интересно, во многих случаях проблема не в самом ИИ как таковом, а в том, как его внедряют: не дают чёткого контекста, не настраивают передачу сложных запросов оператору, не проверяют качество ответов. Я тоже часто тестирую разные модели для рабочих задач, и разница в качестве ответов между ними колоссальная. Сейчас для таких экспериментов удобно использовать платформы-агрегаторы, где можно быстро сравнить, как разные модели справляются с одной и той же задачей. Например, на Ranvik собраны десятки моделей — от ChatGPT и Claude до DeepSeek и Gemini — https://ranvik.ru/chat. Это позволяет выбрать ту, которая действительно решает проблему, а не просто гонит зелёные метрики.

Кстати, история про бота DPD, который начал писать стихи, — это уже классика. Но она наглядно показывает, что без человеческого контроля и грамотной настройки ИИ может принести больше вреда, чем пользы. Автор прав: важно внедрять мониторинг качества, а не только времени ответа. Без этого мы рискуем потерять клиентов, которые просто не смогут достучаться до живого оператора.