Руководитель команды Efficient AI, Kandinsky lab
На 12 Гб точно можно запустить, в основном репозитории Kandinsky 5.0 есть рецепты по оптимизации инференса.
Сейчас идёт активная работа над оптимизацией памяти модели. Постараемся в ближайшее время сделать обновление.
На 12 Гб точно можно запустить, в основном репозитории Kandinsky 5.0 есть рецепты по оптимизации инференса.
Сейчас идёт активная работа над оптимизацией памяти модели. Постараемся в ближайшее время сделать обновление.