Comments 3
Как-то очень оптимистично! У меня без всяких фокусов переход от ПК с 24Гб ОП 2-я ядрами на ПК с 8+16 ядрами 16 ОП привел от 5 т/с к 9 т/с
Почитал по диагонали, показалось очень интересно и отложил себе для внимательного прочтения. Щас стало актуально, по моим задачам, испытываю потребности в минимизации использования ресурсов. В общем полезно, респект.
Sign up to leave a comment.
Как я перешёл на локального агента Pi и 100+ не тупых локальных токенов в секунду или Счёты 4.0