2. Рекурсивный движок llama.cpp на RTX 3050: тесты Qwen 32B и 7B Coder — прирост качества х3 и аппетиты по памяти

Честно говоря, я уже попробовал nanbeige, там эффективно только на их настройках, грубо говоря, это просто познавательная штука. Zaya1-8b ещё не смотрел. Грубо говоря вся эта трабла с рекурсией зависит от модели, можно получить полезные результаты, а можно просто расширить своё понимание этого процесса.

2. Рекурсивный движок llama.cpp на RTX 3050: тесты Qwen 32B и 7B Coder — прирост качества х3 и аппетиты по памяти

Попробуй может что полегче в сегменте Moe когда будет время. Может ZAYA1-8B. И модели заточенные на рекурсию возможно Nanbeige4.2-3B.