Обновить

Вышел специализированный дистрибутив DietPi 9.1 для использования на одноплатных ПК на базе архитектур ARM и RISC-V (Raspberry Pi, Orange Pi, NanoPi, BananaPi, BeagleBone Black, Rock64, Rock Pi, Quartz64, Pine64, Asus Tinker, Odroid и VisionFive 2). Проект построен на пакетной базе Debian и доступен в сборках для более чем 50 плат.

DietPi также может применяться для создания компактных окружений для виртуальных машин и обычных ПК на базе архитектуры x86_64. Сборки для плат отличаются компактностью (в среднем 130 МБ) и занимают меньше места на накопителе, по сравнению с Raspberry Pi OS и Armbian. Поддерживается режим полной автоматизации установки, позволяющий провести инсталляцию на платы без участия пользователя.

Проект оптимизирован для минимального потребления ресурсов и включает в себя собственные утилиты: интерфейс для установки приложений DietPi-Software, конфигуратор DietPi-Config, систему резервного копирования DietPi-Backup, механизм ведения временных логов DietPi-Ramlog (с поддержкой rsyslog), интерфейс для установки приоритетов выполнения процессов DietPi-Services и систему доставки обновлений DietPi-Update.

В DietPi 9.1:

  • подготовлены тестовые сборки для плат Raspberry Pi, переведенные на использование ядра из Debian 12;

  • добавлена отдельная сборка для варианта платы ROCK 4 SE;

  • добавлены новые сборки для плат NanoPi R5S/R5C/R6S/R6C/T6;

  • добавлена поддержка использования менеджера паролей vaultwarden на системах RISC-V.

Источник: OpenNET.

Теги:
Всего голосов 3: ↑3 и ↓0+3
Комментарии0

125 токенов в секунду на RTX 4070 Ti SUPER: как я заставил локальную LLM работать полноценным кодинг-агентом

По статистике, среди рядовых пользователей настольных компов самая распространенная видеокарта имеет 16 ГБ видеопамяти. По опросам GaugeDB, такие карты занимают 27,21% рынка. У меня как раз видеокарта NVIDIA GeForce RTX 4070 Ti SUPER с 16 ГБ видеопамяти GDDR6X, которая на текущий момент стоит 900$. До сего момента главной проблемой было то, что на видеокарте такого класса невозможно было запустить LLM-агента, который будет достаточно умным и достаточно быстрым. Если запускаешь умную модель типа Qwen 3.8 27B (Dense архитектура), то на выходе получаешь 10-20 токенов в секунду. А для комфортной работы кодинг-агента надо 100-150 токенов в секунду.

125 токенов в секунду на RTX 4070 Ti SUPER: как я заставил локальную LLM работать полноценным кодинг-агентом

Публикации