Pull to refresh
8K+
52
Dmitry Kovalev@devpew

Technical Product Owner

13,5
Rating
130
Subscribers
Send message

Скорость шины влияет на чтение в Btrfs ровно так же, как и в любой другой файловой системе (Ext4, NTFS). Подсчет контрольных сумм не создает дополнительного узкого места, потому что процессор делает это кратно быстрее, чем физически работает шина PCIe 3.0 или сам SSD.

ну да, вот как раз у меня есть еще и terramaster f8 plus который работает только на nvme и там как раз BTRFS

Еще есть cm3588 на которой openmediavault с BTRFS

Есть еще и проксмокс на серверной железяке

И вот никогда я не слышал о том, что скорость шины может как-то влиять на то что Btrfs постоянно считает контрольные суммы чтобы предотвратить скрытое повреждение (silent corruption). Ну кроме фантазий комментаторов, которые из штанов лезут ради того чтобы доказать свою точку зрения)

Ну да, частая задача, конечно, считать CRC у всех файлов на хранилище. Людям которые часто этим занимаются (их примерно ноль на нашей планете) этот девайс не подойдет.

"Тут-же, при раздаче разных файлов по двум сетевым интерфейсам с одного диска Вы не получите заявленных 5GbE+5GbE". И правда не получим.

5GbE+5GbE это в пике будет 1100МБ/с, а у нас скорость трагически уменьшится и будет 950 МБ/с.

Так, ну давайте я с вами соглашусь и мы с вами установим что теоретический предел одного канала PCI-Ex1 3.0 всего 950 МБ/с

При этом у самого устройства ethernet порт на 5 гигабит. А это значит что максимум с которым мы будем передавать или читать данные будет 500 МБ/с

Но давайте еще раз разберем то, что я написал

"На первый взгляд возникает вполне логичный вопрос. Допустим, SSD способен читать данные со скоростью 5000 МБ/с. Но сетевой интерфейс NAS ограничен. Даже 5GbE обеспечивает примерно 550–580 МБ/с полезной скорости."

Где противоречия в том, что я сказал?

Еще раз повторю что я имел в виду что есть диск и он имеет параметры по скорости, но они тут не реализуются. Вы мне говорите о том, что есть еще один ботлнек. Окей. А как это моим словам то противоречит?

А вы специально вырываете слова из контекста?

Написано же, что скорость все равно будет 550–580 МБ/с

"На первый взгляд возникает вполне логичный вопрос. Допустим, SSD способен читать данные со скоростью 5000 МБ/с. Но сетевой интерфейс NAS ограничен. Даже 5GbE обеспечивает примерно 550–580 МБ/с полезной скорости."

Одно из самых важных событий за этот период это выпуск Qwen-AgentWorld-35B-A3B

Qwen3.6-35B-A3B это MoE модель, она тупее но быстрее.

А можете на своем опыте рассказать, нет ли проблем с контекстом. Я слышал, что если он не большой то бывают проблемы.

По скрину увидел что вы используете gemma3 4b и у нее вроде бы макс контекст 120000. А что если все что скармливается в RAG не влезет в контекст? Как с такими проблемами бороться?

qwen3.6-27b q8 у меня локально выдает около 75 токенов в секунду, что вполне себе приемлимо, запускаю в llama.cpp

я не использую оркестратор, я просто использую агента (pi) и rag

Курсор выдает до 250 токенов в секунду
Я тратил на подписки больше $400 в месяц. И в данный момент не вижу для своих проектов разницы между ними и локальной моделью.

Для мака прежде всего надо смотреть на формат MLX, это специально под их процессоры сделанный формат. А остальное вроде то же самое.

Я бы не смотрел на квантования ниже Qwen3.6-27B-Q6_K.gguf она весит 23гб, так же надо еще место для kv cache и для контекста. Так что если ужаться то можно например взять пару карт по 16гб, а потом париться с оптимизациями

Запускал вообще вот так

pm2 start bash --name llama-server -- -c "/home/dm/llamamtp/llama.cpp/build/bin/llama-server -m /home/dm/models/qwen3-next/Qwen3.6-27B-UD-Q8_K_XL.gguf --host 0.0.0.0 --port 8080 -ngl 999 -ts 0,0 --ctx-size 262144 --batch-size 512 --ubatch-size 256 --flash-attn on --parallel 1 --temp 0.6 --top-p 0.95 --reasoning-budget 0 --spec-type draft-mtp --spec-draft-n-max 2"

Квантование Q8_K_XL

Запускалось на двух 5090

Судя по скринам температура у NVME дисков не плохая. Это в простое или под нагрузкой? И по фотке еще не понятно, вроде бы есть отверстие под вентилятор у самого корпуса. А сам вентилятор есть или охлаждение полностью пассивное?

Так а какая должна быть температура у дисков? 36.6 как у человека? Все что вам кажется горячим не имеет права работать при этой температуре?

Может быть надо смотреть на спецификацию диска? Вот у моего диска в спеке написано что он может спокойно работать до 70 градусов, после 85 он уходит в тротлинг.

Можно как-то раскрыть почему 50 градусов считается плохой температурой?

Странная конечно у вас логика. Вы нашли какой-то девайс который перегревается и делаете вывод о том, что значит в все другие тоже будут перегреваться.

Отвечу коротко - нет, девайс про который я писал не перегревается.

При тех же батаритах? А есть у вас фотка того о чем вы говорите? хочется посмотреть на габариты и как оно все впишется в размер 14х6х18см

Ты меня пытаешься все равно уговорить использовать nas на дисках?)

Вообще у меня дома есть еще и NAS на обычных жестких дисках. Там, конечно, есть и плюсы и минусы. Плюсы в том, что дешевле хранить гигабайт данных, и сам нас можно сделать большого обьема.

Но минусы тоже напрягают. Совсем не приятно работать с этим насом напрямую. Прям чувствуется насколько он медленный. Особенно если надо вдруг скачать или закачать большое количество мелких файлов. Ну и не нравится, что все-таки он шумный, так как эти диски постоянно раскручиваются.

Ну и если места дома не очень то и много, то такие вот компактные решения тоже сразу ценишь. Но если места много, то, наверное, не принципиально.

Да, хватает. Я же выше написал про видео, можете сами глянуть, там я перекидываю около терабайта.

Я лично не знаю от чего это зависит, и интересно было бы узнать, может быть кто-то подскажет.

На этом девайсе перегрева у меня нет. Но у меня есть еще один девайс где всего два NVME диска. И там когда начинаешь скачивать большие обьемы данных так он безумно нагревается до такого состояние что даже перезагружается.

Information

Rating
671-st
Location
Санкт-Петербург, Санкт-Петербург и область, Россия
Registered
Activity