Старому Jetson Nano — домашнее облако: Nextcloud, Immich, CGNAT и три USB‑сбоя

Странно брать плату с NPU и отключать на ней распознавание в Immich. Понимаю, что экономия памяти, но... Будто только в этом смысл на такой плате строить домашний сервер, ибо остальные задачи прекрасно решает raspberry pi

Как я разогнал Qwen3.6-27B до 73 токен/с в llama.cpp: параметры, которые реально работают

Посмотри в сторону oMLX. Обработка кэша - очень долгая операция. И тут её оптимизировали.