Гарантия попадания в ответы нейросетей: почему нельзя это гарантировать и что измерять вместо этого

[olku]

Некоторые до сих пор считают что если температура 0, то ответ детерминирован. Делал эксперимент на собственном железе с 1 пользователем - последовательный запрос даёт один ответ, но стоит сделать тот же запрос в несколько потоков или процессов для лучшней изоляции контекста, в ответах начинается рандом