Да не...сегодня в ркн короткий предпраздничный день(официально), как и во всех бюджетных организациях, и как всегда что то отвалилось, чтото забыли перезагрузить, а большинство сотрудников находятся в предвкушении пятничного похода в Harat's вот и заработало. Ненадолго. Сейчас начальство поправит глаз и призовет свое воинство к порядку..
Это я понял, не оч.понятно почему при загрузке модели с весами частично сгруженными в RAM , работает все равно быстрее чем на двух видеокартах с моделью полностью распределенной по видеопамяти обеих карт.
Есть мессенджер Keet. Разработчик разработчик holepanch при поддержке Tether, те же кто делает PearPass, p2p. Без квн. Пользуюсь для звонков. Есть приложение для ПК. Нравится, но глючноват пока.
Пытался гонять модели на 2 видеокартах 5080 и 4070ti, но к моему удивлению такая связка давала меньшую скорость чем на одной 5080. Хотя модель влезала в 24 ГБ. Думаю причина в pcie. Как вы это делаете - какое железо под видеокартами? Сейчас qwen 3,5 35b дает 27 ток/сек на одной 5080
Про все новшества, включая компьютеры и интернет так говорили. Оно не нужно, да зачем, интырнеты эти ваши нам н..не нужны..и.т.д. Да что там, с каждым новым выпуском windows (а я видел все) начинается "раньше было лучше". На самом деле применений в производстве такого универсального инструмента найти можно немало.
как что субботу конечно)
Сделать хорошо здесь .... а как вы предлагаете это сделать без экстоаполяции? А за призывы к экстраполяции яйцелопы вас трансклюкируют.
Да не...сегодня в ркн короткий предпраздничный день(официально), как и во всех бюджетных организациях, и как всегда что то отвалилось, чтото забыли перезагрузить, а большинство сотрудников находятся в предвкушении пятничного похода в Harat's вот и заработало. Ненадолго. Сейчас начальство поправит глаз и призовет свое воинство к порядку..
Статью ведет похоже сетка и глаз у нее нет
Это я понял, не оч.понятно почему при загрузке модели с весами частично сгруженными в RAM , работает все равно быстрее чем на двух видеокартах с моделью полностью распределенной по видеопамяти обеих карт.
Есть мессенджер Keet. Разработчик разработчик holepanch при поддержке Tether, те же кто делает PearPass, p2p. Без квн. Пользуюсь для звонков. Есть приложение для ПК. Нравится, но глючноват пока.
Keet попробуйте. Лучше Авиты. Работает без квн. P2p, самое интересное качество звонков
Нет такого закона. Как и закона иметь смартфон.
Это на вшивость проверяло. Вшивые сразу дали Маху)
А зачем нам еще один Мах? Или это "убивец" МАХа?
Пытался гонять модели на 2 видеокартах 5080 и 4070ti, но к моему удивлению такая связка давала меньшую скорость чем на одной 5080. Хотя модель влезала в 24 ГБ. Думаю причина в pcie. Как вы это делаете - какое железо под видеокартами? Сейчас qwen 3,5 35b дает 27 ток/сек на одной 5080
В чем отличие от perplexica ( не путать с perplexity) и open webui подключенных к бекенду в виде тех же lmstudio и ollama?
Должен по идее, ведь маху нужно так много вынести с твоего компа)
Вы правы, все не просто но и проблема лежит не только в плоскости производственной целесообразности
Он может лучше не получать зарплату и не бунтовать
Про все новшества, включая компьютеры и интернет так говорили. Оно не нужно, да зачем, интырнеты эти ваши нам н..не нужны..и.т.д. Да что там, с каждым новым выпуском windows (а я видел все) начинается "раньше было лучше". На самом деле применений в производстве такого универсального инструмента найти можно немало.
"Не показалось" это тоже не пруф. А вот совпадение имени блистательного начальства с его замечательным продуктом уже тянет на.
..опять генерированный текст...
Этот мессенджер назвали в честь блистательного начальства
Максут мне зачем для этого?