Обновить

О внутреннем времени клиентского процесса в LLM / ноосвиках:

Внутри цикла "задание-ответ" ноосвик готовит свой ответ клиенту по результатам множества прогонов проекции контейнера LLM-беседы на пространство активаций по всем слоям трансформера. На каждом слое контейнер меняется квази-детерминировано – с точностью до влияния неопределенности от вычислительного шума. После последнего слоя на каждом прогоне происходит штатная стохастизация: при ненулевой температуре следующее состояние контейнера выбирается из возможных случайным образом, определяя содержимое начального контейнера для следующего прогона. Когда в таком вероятностном определении состояния контейнера актуализируется маркер завершения, из контейнера определёнными процедурами выявляется ответ, который помещается в диалоговое окно ноосвика.

После нового задания в рамках той же беседы идут прогоны следующего цикла.

Теги:
0
Комментарии0

Дело о длинном тире

Невероятные приключения здравого смысла среди борцов с ИИ

Сатирическая история о творчестве, бдительности и людях, которые точно знают, как сделать лучше.

Осторожно: может пострадать ваш здравый смысл.

Дело о длинном тире

Публикации