У меня также 5060ti 16гб, gpt влезает целиком со всем контекстом и занимает 15.3гб. На пустом контексте 120т/с, на 80к+ 75т/с. Но с qwen3.6-35b выше 15 т/с я не могу получить (проц Ryzen 7 5700X), что весьма мало
Не вижу причин отказываться от proxmox даже на таком железе.
И я не увидел самого главного: первым в списке сервисов должен идти forgejo, где будут храниться все compose конфиги. И разворачиваться оттуда же, желательно. Портейнер это умеет, не знаю насчёт dockge
Ну да, в тспу ведь не байкалы или эльбрусы стоят, а продукты врагов-капиталистов. А когда все шито-крыто, можно больше и не закупать на наши налоги.
Только вот логи по закону яровой все ещё хранят на проклятых сигейтах да, вестерн, прости господи, диджитал. Но ничего, скоро и это импортозаместим аналогами...
У меня также 5060ti 16гб, gpt влезает целиком со всем контекстом и занимает 15.3гб. На пустом контексте 120т/с, на 80к+ 75т/с.
Но с qwen3.6-35b выше 15 т/с я не могу получить (проц Ryzen 7 5700X), что весьма мало
Хотелось бы видеть в подборке моделей еще gpt-oss-20b. Эта со свистом влезает в 16гб врам вместе с контекстом.
Ну и как уже отметили, для тестов стоило поставить контекст больше, возможно результаты были бы другими
Не вижу причин отказываться от proxmox даже на таком железе.
И я не увидел самого главного: первым в списке сервисов должен идти forgejo, где будут храниться все compose конфиги. И разворачиваться оттуда же, желательно. Портейнер это умеет, не знаю насчёт dockge
Уже и так все в чебурнете по умолчанию...
Ну да, в тспу ведь не байкалы или эльбрусы стоят, а продукты врагов-капиталистов. А когда все шито-крыто, можно больше и не закупать на наши налоги.
Только вот логи по закону яровой все ещё хранят на проклятых сигейтах да, вестерн, прости господи, диджитал. Но ничего, скоро и это импортозаместим аналогами...
Так и броадком — вражеская контора...
Поддерживаю, локальный pbs плюс push во второй удаленный pbs — вполне рабочая связка
Посадить нет, но вот шантажировать в теории может, если найдёт чем
Алгоритм CF не раскрывают, наверняка там учитывается совокупность факторов, cors лишь один из них.
Такой статус могли повесить автоматом после очередной проверки, а могли и репортами закидать, вполне заслуженно, в целом.
Чуть ли не все спамеры уже давно делают повторный звонок сразу после первого, если не ответил
Печать, сохранить как PDF...
На андроид без всякого ВПН вываливается такое окно. Разве что запрет на роутере настроен, но озон в исключениях
Почему-то кажется, что прокси специально не трогают на текущий момент, чтобы потом массово все перебанить за раз
Какому количеству человек можно дать доступ для этого или подобного (telemt) прокси, чтобы его ip не внесли в черный список на тспу? Пяти? Десяти?
А если это будет socks5 прокси?
Проверьте дату публикации...
Onkron g80 себе брал, для каждого монитора отдельный. Крепление на такую толщину подойдет
Рекомендую еще приобрести кронштейны для мониторов. Стоят копейки и всяко удобнее книг под подставкой
Я правильно понимаю, что таким девайсом свет нельзя будет включить/выключить, если УД отвалится?