Пользователь
Это да, но у автора в статье указано:
CUDA_VISIBLE_DEVICES=1,0,2 нужен, чтобы llama.cpp видел V100 как главный GPU — у него больше VRAM
CUDA_VISIBLE_DEVICES=1,0,2
Тут как будто бы первое число указывает на main GPU (хотя позже в команде явно флагом задаётся значение 0)
Это да, но у автора в статье указано:
Тут как будто бы первое число указывает на main GPU (хотя позже в команде явно флагом задаётся значение 0)