В своем проекте решил сделать микро servis. единый, самописный load-balancer. Готовые не подходят, у нас неоднородные по мощностям AI сервера.
Узнал много нового, например, сессии активно прерываются. оказывается то что качество сигнала интернета, между Россией и Белоруссью оставляет желать лучшего. Происходит неизвестные затыки. Таким образом, распил монолита, добавил множество нестабильностей и работы.
К чему это я ? данный комментарий не совсем подходит под данным постом, но он может подготовить тех, кто только планирует пилить монолит.
Почему бы не сделать условно 14b модель, но с MOE? В режиме ожидания и в инференсе будет примерно также, но при этом модель будет изначально умнее.
Уверен, каждый кто общался с Девопсами понимает, что Гилфойл из Кремниевая долина это не художественный образ, а каждый первый Девопсер…
Ребята, статья огонь. Хотелось бы больше подобного в реальном секторе, в реальном применении
Воняет нейросетью. это видно по тексту, ооочень старым зависимостям и пайтон 3.9.
Лучше напишите сами, огребите от олдов и станьте лучше, чем выкидывать статьи от Gemini
Комментарий создан при поддержке ГОСТ 2.305-2008 ЕСКД
Nginx уже не тот… Крайне не рекомендую. Вот Angie… Совсем другое
Я всегда считал что «КПД» это прерогатива BI систем и бизнес-аналитиков, нежели инфраструктуры,
В своем проекте решил сделать микро servis. единый, самописный load-balancer. Готовые не подходят, у нас неоднородные по мощностям AI сервера.
Узнал много нового, например, сессии активно прерываются. оказывается то что качество сигнала интернета, между Россией и Белоруссью оставляет желать лучшего. Происходит неизвестные затыки. Таким образом, распил монолита, добавил множество нестабильностей и работы.
К чему это я ? данный комментарий не совсем подходит под данным постом, но он может подготовить тех, кто только планирует пилить монолит.
Я вас молю, ну переведите вы RUTUBE на Quic. Уж больно долго идёт запуск видео
Бро вместо ссылки на ВК бота, дал ссылку от лица админа ?
ссылка должна быть такая https://vk.com/write-224005469