Анатомия AI-агента: что внутри этой штуки, которую все хотят, но никто не понимает

[kostoms]

Ценный конспект!

[Kapral07]

Спасибо за статью! Как Вы считаете, RAG в агенте лучше применять как tool для получения ответа на вопрос, либо для получения релевантных чанков (без этапа генерации)? Кажется, что релевантные чанки могут быть полезнее, чем сам ответ, но излишняя информация может агента сбить с пути

[Maslennikovig]

День добрый, я думаю, что все же его стоит использовать как tool. Объясню почему. Контекст вопроса может быть разный и по сути таким образом будем выдавать сырые данные. А так модель обработает и выдаст то, что нам нужно. Так что мне кажется стоит использовать все-таки его как tool. Но тем не менее, можете уточнить конкретный кейс подробней и, возможно, я смогу ответить более точно.

[DarksideUser]

Весьма ценная статья! Как вы считаете, нужен ли личный AI-агент, или потребность в нем возникает только у организаций? Если нужен, то можно ли пользоваться им бесплатно без локального развертывания модели?