Обработкой PPPoE может заниматься сама Intel I210, вот с маршрутизацией сложнее. Поэтому копеечные коробчки хороши в маршрутизации, но часто плохи в Zapret/AdGuard и здесь полноценный x86 берет свое.
Athlon хоть и древний, но 2 ядра 3 ГГц уже хорошо, для качалки торрентов сгодится. HDD Toshiba, помню что 2017 года, вроде 7200 оборотов. Думаю, справится без проблем.
Согласен, всякие N100 ноутбучные для подобных задач лучше всего подходят. Тв бокс на Amlogic S905X тоже хочу прошить на Armbian, но из него хочу почтовый сервер поднять на своем домене.
Думаю торрент качалку сделать, а декодирование видео свалю на тв бокс Vontar X3. AdGuard и что-нибудь для обхода блокировок поставлю, Filebrowser уже стоит.
Просто, x86 роутер это полноценный домашний сервер. OpenWRT лучше для роутеров, но Debian позволяет без проблем делать сервер на x86 железе. Репозиторий у OpenWRT хороший, но узконаправленный, заточенный для обычных роутреров. А из этого можно сделать домашний комбайн.
Сколько ест в ватт-часах замерить достаточно тяжело, в простое 40 вт-ч навскидку. Гигабит вытягивает, Realtek на плате гигабитный, I210 тоже, cat 5e 8 жил. Процессорной мощности для маршрутизации полностью хватает.
Если настроить, может обходить блокировки, блокать рекламу. Пока что только Filebrwoser в докер контейнере поднял. Вообщем, нужно еще многое настраивать, делать комбайн из него, тогда будет смысл. Это просто основа.
В дальнейшем может быть добавлю, просто с fedora-based опыта нет, а у Fedora свои инструменты для этих пакетов, с ними я не знаком, но можно поэксперементировать
Модель не влезла в vram, поэтому я оставил в видеопамяти attention, kv-кэш, эмбеддинг, FFN принудительно выгрузил в озу. Модель примерно наполовину влезла, но работать стала быстрее
Ну просто для такого железа 50 токен/с это почти предел возможностей, на такой скорости заведутся полностью пощещающиеся в vram модели. Я показал как оптимизировать запуск крупных Ultra MoE, скорость генерации выросла с нулевой до минимально рабочей, этим стало возможно пользоваться
Обработкой PPPoE может заниматься сама Intel I210, вот с маршрутизацией сложнее. Поэтому копеечные коробчки хороши в маршрутизации, но часто плохи в Zapret/AdGuard и здесь полноценный x86 берет свое.
Athlon хоть и древний, но 2 ядра 3 ГГц уже хорошо, для качалки торрентов сгодится. HDD Toshiba, помню что 2017 года, вроде 7200 оборотов. Думаю, справится без проблем.
Debian.
NFTables через systemd enable сам запускается, шебанг в таком случае не обязателен.
Это роутер, как ему заниматься маршрутизацией с input и output в policy drop? Все что делает конфиг в статье: маскарадинг ip v4 и v6.
Согласен, всякие N100 ноутбучные для подобных задач лучше всего подходят. Тв бокс на Amlogic S905X тоже хочу прошить на Armbian, но из него хочу почтовый сервер поднять на своем домене.
Думаю торрент качалку сделать, а декодирование видео свалю на тв бокс Vontar X3. AdGuard и что-нибудь для обхода блокировок поставлю, Filebrowser уже стоит.
Просто, x86 роутер это полноценный домашний сервер. OpenWRT лучше для роутеров, но Debian позволяет без проблем делать сервер на x86 железе. Репозиторий у OpenWRT хороший, но узконаправленный, заточенный для обычных роутреров. А из этого можно сделать домашний комбайн.
Спасибо за конфиг, попробую использовать его в своей системе
Сколько ест в ватт-часах замерить достаточно тяжело, в простое 40 вт-ч навскидку. Гигабит вытягивает, Realtek на плате гигабитный, I210 тоже, cat 5e 8 жил. Процессорной мощности для маршрутизации полностью хватает.
Если настроить, может обходить блокировки, блокать рекламу. Пока что только Filebrwoser в докер контейнере поднял. Вообщем, нужно еще многое настраивать, делать комбайн из него, тогда будет смысл. Это просто основа.
OpenAI даже лучше Antropic Fable 5 пропиариться смогли. И актуальную модель затронули, и будущую, да и история красивее.
В дальнейшем может быть добавлю, просто с fedora-based опыта нет, а у Fedora свои инструменты для этих пакетов, с ними я не знаком, но можно поэксперементировать
Спасибо за комментарий. Я чуть подправил статью, т.к. нашел --no-mmap, в вк отпишусь обязательно
Интересно. А какую оперативку используете и сколько ее?
Модель не влезла в vram, поэтому я оставил в видеопамяти attention, kv-кэш, эмбеддинг, FFN принудительно выгрузил в озу. Модель примерно наполовину влезла, но работать стала быстрее
Ну просто для такого железа 50 токен/с это почти предел возможностей, на такой скорости заведутся полностью пощещающиеся в vram модели. Я показал как оптимизировать запуск крупных Ultra MoE, скорость генерации выросла с нулевой до минимально рабочей, этим стало возможно пользоваться
Ну у Google намечается проблема с Android, Huawei и Xiaomi уже создали свои операционки, могут появится и другие желающие свалить с Android