Комментарии 2
Fine tuning не спасает от галлюцинаций, а вот RAG спасает в 99% случаев
Согласен, RAG сильно снижает галлюцинации — модель отвечает по найденному контексту, а не выдумывает.
Но 99% — оптимистично. Если релевантный чанк не нашёлся или retrieval вернул что-то похожее, но не то — галлюцинации вернутся. Плюс модель может "дофантазировать" детали, которых нет в контексте.
Fine-tuning тут тоже помогает: можно научить модель отвечать "не знаю" или "уточните вопрос" вместо выдумывания. Но да, это не основной его плюс.
Пост скорее про другое — формат вывода, доменный язык, скорость. Там RAG не поможет.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
5 случаев, когда Fine-tuning лучше RAG Все говорят "RAG для всего". Но есть кейсы, где fine-tuning выигрывает — и это...