Pull to refresh
1
Send message

Это да, но у автора в статье указано:

CUDA_VISIBLE_DEVICES=1,0,2 нужен, чтобы llama.cpp видел V100 как главный GPU — у него больше VRAM

Тут как будто бы первое число указывает на main GPU (хотя позже в команде явно флагом задаётся значение 0)

Information

Rating
Does not participate
Registered
Activity