Метрика EICS — ищем у трансформера причинное место

[Kamil_GR]

Если я правильно понял, предложенная методика

1. Не определяет галлюцинацию

EICS не доказывает истинность ответа. Высокая согласованность цепи может означать, что модель последовательно реализовала ошибочный механизм.

2. Вы советуете использовать ее для поиска галлюцинаций.

отладка hallucination-prone промптов

[Kamil_GR]

А самое печальное, природа нейросети - давать когерентные ответы, и тогда я не вижу смысл в вашей методике