Комментарии / Профиль wooferclaw / Хабр

Все потоки

Григорий@wooferclaw

MLOps, DevOps, .NET, Python

2

Подписчики

ПрофильСтатьиПостыНовостиКомментарии2

Сбер открывает доступ к нейросетевой модели ruGPT-3.5

wooferclaw 20 июл 2023 в 09:00

да, просто укажите load_in_4bit=True

+3

Сбер открывает доступ к нейросетевой модели ruGPT-3.5

wooferclaw 20 июл 2023 в 08:31

int8 должен запуститься на бесплатной T4 в колабе. Так что у вас думаю тоже заработает.

+1