Галлюцинации LLM — это артефакты сжатия. И это объясняет вообще всё

"Модель лжёт" - оценочное суждение наблюдателя. Достаточно поверхностное, кстати, "искренне заблуждается" выглядит гораздо предпочтительней. Да и смыслы модель не заполняет, модель лишь выбирает между условными "единицей и нулём" на основании того, что кто-то этот выбор уже делал раньше.