sergeygals29 янв в 10:41LLM для Meshtastic на Orange PI 5 8GУровень сложностиПростойВремя на прочтение5 минОхват и читатели9.1KDIY или Сделай самOpen source * Беспроводные технологии * Системы связи * Электроника для начинающихТуториалВсего голосов 12: ↑12 и ↓0+14Добавить в закладки35Комментарии1
rodial17 часов назадЕсли хочется заморочиться и теоретически ускорить генерацию в 2 раза, можно попробовать запустить модель на NPU RK3588S, который может использовать до 4GB RAM. Как минимум снять нагрузку с процессора.
LLM для Meshtastic на Orange PI 5 8G