1.1. Контекст и вызов Современные большие языковые модели(LLM) совершили рывок в обработке естественного языка, приблизившись к человеческому уровню в задачах генерации и понимания текста. Однако за внешней убедительностью ответов скрывается одна большая и существенная проблема: LLM по своей природе всё также остаются «предсказателями» следующего токена, а не системами, построенными на формальной логике или чётких онтологических моделях. Это порождает парадокс: модели, способные вести глубокие дискуссии по сложным темам, могут формировать ложные выводы или выдавать противоречивые утверждения в одном ответе.

1.2. Суть проблемы: смешение абстракций и отсутствие внутренней дисциплины
Галлюцинация не являются основной проблемой, они лишь следствие. Основная причина в
систематическом нарушении согласованности между различными уровнями обработки информации. Это проявляется в нескольких ключевых типах логических сбоев, скрывающихся в архитектуре LLM:

· Фактическая несогласованность: Ответы модели противоречат проверяемым данным или её же собственным предыдущим утверждениям в рамках диалога.
· Логическая несогласованность: Нарушение базовых правил дедукции (например, признание истинности утверждений «А → Б» и «А», но отрицание «Б») или последовательности в цепочках рассуждений.
· Контекстуальная несогласованность: Неспособность сохранять все выводы и факты при генерации сложного ответа, что приводит к искажению или полной замене исходных условий.

Эти сбои — прямое следствие того, что в процессе генерации модель не различает в своей внутренней работе этапы извлечения и верификации сырых данных (факты), построения интерпретаций на их основе (анализ) и формирования окончательных выводов (синтез).

Все эти уровни смешиваются в едином потоке токенов, что делает процесс непрозрачным и непроверяемым. Как следствие, модель может начать рассуждение с одного набора предпосылок, а завершить его — с другим, неявно подменив их в процессе.

В этой статье рассматривается проблема галлюцинаций ИИ — их причины и возможные способы решения на архитектурном уровне. Это явление является одним из ключевых в работе современных языковых моделей. Создать надежную программу на базе ИИ невозможно без понимания причин возникновения галлюцинаций, которые нарушают работу систем и подрывают доверие к таким помощникам. Помимо технических сложностей, важную роль играет и человеческий фактор. Но обо всем по порядку.

Архитектурный промт — это структурированный шаблон запроса, который задает AI определенную логику обработки информации через явные инструкции и последовательности действий.

Базовое строение:
[КОНТЕКСТ] → [ЦЕЛЬ] → [МЕТОДОЛОГИЯ] → [ЭТАПЫ] → [ТРЕБОВАНИЯ] → [ФОРМАТ]