Комментарии 5
Круто конечно, но зачем оно надо?
А было бы интересно: статьи о запуске LLM на маломощных устройствах.
Ну, DOOM же запускают на всем подряд.
Пожалуйста, и здесь сделайте так же.
Ждем Deep Seek на тесте на беременность
Учитывая требования к запуску многих популярных LLM, маломощными устройствами можно назвать всё, где менее 32ГБ ОЗУ и менее 16ГБ видеопамяти. То есть около 100% офисных и домашних компьютеров.
ИИ попросило, готовит почву
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Энтузиаст запустил генеративный ИИ на 20-летнем PowerBook G4