На "Strix Halo" желательно Linux ставить, т.к. производительность при запуске LLM выше. Ну и конечно можно, та же Ubuntu 24 ставится без проблем.
VRAM от 512MB до 96GB при 128GB RAM, unified
В ROCm недавно добавили официально поддержку этого чипа, но только GPU, поддержки NPU пока нет, впрочем GPU выдает нормальные результаты, у меня даже немножко больше чем на графиках в статье.
Уже полгода владею gmktec evo-x2, но ROCm для этого чипа доделали только недавно, до этого модели работали только на CPU и достаточно медленно, сейчас отлично, рекомендую.
создавать региональные инстансы моделей и инфраструктуры;
Достаточно моделей/механизмов которые будут перед передачей персональные данные заменять и подставлять обратно в ответе (хранить не обязательно), т.е. минимальной инфраструктуры.
Вроде как в Испании скоро Майкрософт обещает офис открыть и других гигантов зовут
Но зарплаты внутри страны не то чтобы привлекательные, жилье достаточно дорогое, особенно в приличных районах, и не дешевеет а наоборот, налоги относительно высокие (но вроде ниже чем в Германии и Франции).
Тут не всё так однозначно, последовательные гибриды могут работать в оптимальном режиме двигателя и действительно снижать выбросы, так и производство электричества для электричек может быть например от атомной электростанции.
С другой стороны последовательных гибридов меньшинство, как и атомной электрогенерации.
Тоже пробовал такое использовать, имеет право на жизнь, до написания кода правда руки так и не дошли. Xreal лучшее что есть на рынке, на мой скромный взгляд, но не идеально.
Только телефон я взял motorola edge 50 ultra, он мне показался получше пикселя (старый пиксель разбил а отзывы о новом мне не очень понравились)
С кодом буду пробовать когда мини ПК придет, там хотя бы не arm
P.s. жена правда ругается когда очки надеваю, дословно "ппц крипово выглядит, когда ты в очках неподвижно сидишь в полумраке"
У меня сейчас ноутбук с 32gb и за последние пару месяцев он несколько раз зависал при запуске некоторых операций в текущем проекте. Ide + браузер + окружение и вот уже осталось меньше 16. Чтобы запустить тяжеловесный процесс требующий 18gb нужно закрыть браузер, забыл закрыть - здравствуй перезагрузка.
Хочу взять со 128gb, чтобы хотя бы года на 3 хватило с такими тенденциями.
Странно что в сравнении нет qwen3
На "Strix Halo" желательно Linux ставить, т.к. производительность при запуске LLM выше. Ну и конечно можно, та же Ubuntu 24 ставится без проблем.
VRAM от 512MB до 96GB при 128GB RAM, unified
В ROCm недавно добавили официально поддержку этого чипа, но только GPU, поддержки NPU пока нет, впрочем GPU выдает нормальные результаты, у меня даже немножко больше чем на графиках в статье.
Уже полгода владею gmktec evo-x2, но ROCm для этого чипа доделали только недавно, до этого модели работали только на CPU и достаточно медленно, сейчас отлично, рекомендую.
Qwen3 30b выдает до 70 токенов в секунду.
Rocm под этот чип недавно доделали, работает отлично
Qwen3 хорошо по русски отвечает и относительно быстра локально. Но опыт у меня с моделями 30b и может быть не релевантен для вас.
Столько стартапов, экспериментов, прототипов, но почему-то всё тот же литий. Где алюминий-ионные аккумуляторы?
Достаточно моделей/механизмов которые будут перед передачей персональные данные заменять и подставлять обратно в ответе (хранить не обязательно), т.е. минимальной инфраструктуры.
Nginx Proxy Manager
Вроде как в Испании скоро Майкрософт обещает офис открыть и других гигантов зовут
Но зарплаты внутри страны не то чтобы привлекательные, жилье достаточно дорогое, особенно в приличных районах, и не дешевеет а наоборот, налоги относительно высокие (но вроде ниже чем в Германии и Франции).
Батарею снять и так же под пресс, с этим нет проблем.
Батарея дальше эксплуатируется ещё пяток лет там где не важна ёмкость на вес, на автономию частных домов например.
Тут не всё так однозначно, последовательные гибриды могут работать в оптимальном режиме двигателя и действительно снижать выбросы, так и производство электричества для электричек может быть например от атомной электростанции.
С другой стороны последовательных гибридов меньшинство, как и атомной электрогенерации.
Хочется контекста по максимуму
С AMD Ryzen Al Max+ 395 128gb 8000MHz на что можно рассчитывать?
Вроде как устоявшаяся практика что правами обладает запустивший генерацию, если не указано иного.
Просто купил себе мини-пк gmktec evo-x2
128gb памяти которые на 3/4 могут быть распределены между RAM/GPU/NPU
...правда времени пока не было им заняться нормально
Тоже пробовал такое использовать, имеет право на жизнь, до написания кода правда руки так и не дошли. Xreal лучшее что есть на рынке, на мой скромный взгляд, но не идеально.
Только телефон я взял motorola edge 50 ultra, он мне показался получше пикселя (старый пиксель разбил а отзывы о новом мне не очень понравились)
С кодом буду пробовать когда мини ПК придет, там хотя бы не arm
P.s. жена правда ругается когда очки надеваю, дословно "ппц крипово выглядит, когда ты в очках неподвижно сидишь в полумраке"
Устанавливал я его на ноутбуке, работает, отвечает по теме, но очень уж часто глючит, временами вообще кракозябру выдаёт.
Условий digital nomad лучше чем в Испании я пока не видел (если не считать налогов).
А по проживанию очень богатый выбор городов, сильно отличающихся друг от друга.
У меня сейчас ноутбук с 32gb и за последние пару месяцев он несколько раз зависал при запуске некоторых операций в текущем проекте. Ide + браузер + окружение и вот уже осталось меньше 16. Чтобы запустить тяжеловесный процесс требующий 18gb нужно закрыть браузер, забыл закрыть - здравствуй перезагрузка.
Хочу взять со 128gb, чтобы хотя бы года на 3 хватило с такими тенденциями.
... с 16 на 32 я перешёл всего 2 года назад 🥲
С ограниченным местом сейчас некоторые используют мини ПК + очки