Обновить

Гарантия попадания в ответы нейросетей: почему нельзя это гарантировать и что измерять вместо этого

Уровень сложностиПростой
Время на прочтение6 мин
Охват и читатели10K
Всего голосов 4: ↑2 и ↓2+2
Комментарии1

Комментарии 1

Некоторые до сих пор считают что если температура 0, то ответ детерминирован. Делал эксперимент на собственном железе с 1 пользователем - последовательный запрос даёт один ответ, но стоит сделать тот же запрос в несколько потоков или процессов для лучшней изоляции контекста, в ответах начинается рандом

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Публикации