Выбор готового ИИ чат-бота: почему мы в результате написали своего гибридного агента

[evgeniynet]

Благодарю за статью, только подумал о on-prem решении. И тут статья, Интересно с вами познакомиться.

[apevzner]

Зачем же в щёку-то паяльником тыкать (это я про картинку)?

[stikhonchuk]

ИИ плохо разбирается что делают паяльником :)

[rocoss]

Если гибридная система намеренно ограничивает ИИ «детерминированным ядром», чтобы снизить галлюцинации, то не измеряем ли мы тогда «точность» лишь внутри искусственно суженного пространства допустимых ответов и не рискуем ли принять за качество просто отсутствие отклонений, даже когда отклонение было бы полезным?

[stikhonchuk]

Судя по диалогам пользователей большинство предпочитают кликать по готовым ответам. В этом смысле они получают результат наиболее простым для себя способом, а для меня наиболее экономным (без обращений к ЛЛМ). В планах сделать ретро ИИ-анализ диалогов как раз что бы понять, в чем дерево ответов было неудобно, и по результатам менять дерево. Это достаточно просто - лишь один промп в админке, а дерево и так проектировал Клод, он его и поменять может по результатам (в том же промпте).