Как я перешёл на локального агента Pi и 100+ не тупых локальных токенов в секунду или Счёты 4.0

[VAF34]

Как-то очень оптимистично! У меня без всяких фокусов переход от ПК с 24Гб ОП 2-я ядрами на ПК с 8+16 ядрами 16 ОП привел от 5 т/с к 9 т/с

[AndreyKhodunov]

Почитал по диагонали, показалось очень интересно и отложил себе для внимательного прочтения. Щас стало актуально, по моим задачам, испытываю потребности в минимизации использования ресурсов. В общем полезно, респект.

[mixflix]

Спасибо! Там как раз и рецепт указан: "Подарили книгу как делегировать полномочия, со второй главы дочитывал подчинённый".