Подтверждаю, halogen сейчас - это самое быстрое и умное для этой железки. Lm studio для начинающих. На halogen будет под 2000 префилл, и 50-60 т/с генерации. Все цифры с minisforum ms-s1 max 128gb. Очень странно за автора статьи, любознательность должна была к линуксу и halogen’у привести.
Подтверждаю, halogen сейчас - это самое быстрое и умное для этой железки. Lm studio для начинающих. На halogen будет под 2000 префилл, и 50-60 т/с генерации. Все цифры с minisforum ms-s1 max 128gb. Очень странно за автора статьи, любознательность должна была к линуксу и halogen’у привести.