Comments / Profile of wooferclaw / Habr

How to become an author

Григорий @wooferclaw

MLOps, DevOps, .NET, Python

Profile Publications Comments 2Bookmarks 1

Сбер открывает доступ к нейросетевой модели ruGPT-3.5

wooferclaw Jul 20 2023 at 12:00

да, просто укажите load_in_4bit=True

+3

Сбер открывает доступ к нейросетевой модели ruGPT-3.5

wooferclaw Jul 20 2023 at 11:31

int8 должен запуститься на бесплатной T4 в колабе. Так что у вас думаю тоже заработает.

+1