Управление рассуждением LRM в юридическом домене: адаптация архитектуры TG‑RAG (часть 1)

[Dionisiy_eshe]

Как мне кажется, это называется метаданные, данные о данных. По сути, извлечение логических слоев иногда делают с помощью моделей с разными ролями, которые делают разные процедуры, в программировании это архитектор, проектировщик, кодер, тестировщик, аудитор и т.д. Вы пытаетесь роли в RAG частично перенести, это ускорение, структуризация и прочее. Сейчас jev популярно использовать. Ведь на этапе тестов и проверок удобно поменять промпты, чем графы и получить ответ из списка от сторонней модели за мсек. И дообучать jev вроде как проще. Почему бы не назначить таких выборщиков-роутеров-моделей вместо еще одних графов? И вычислительные мощности можно выдавать им отдельно, а вот граф может быть привязан к графу на уровне одной базы данных. Строгость выбора задается жестким списком ответов, там не будет галлюцинаций, только нужен контроль, что вопрос относится к ответам и это ручная настройка, но семантика будет на юридическом языке вложенном в модель, если получится дообучить. Можно воткнуть в любое место модель-форсмажор или еще какую-то со своими процедурами-ответами. Граф-процедур будет аналогом графов-знаний и между ними будут запрограммированные базой данных и кодом связи с определенным техническим протоколом, в итоге окажется, что большая модель должна будет на промптах следовать вызовам и не глючить.