Веса то скачать можно, только топовые компании давно перестали выкладывать реально мощные архитектуры в открытый доступ. Лежат только огрызки на десяток миллиардов параметров
Экосистема всегда побеждает одиночный качественный продукт. Людям проще жрать кактус в одном окне, чем настраивать интеграции между десятью идеальными сервисами
Все эти дофамины-шмафамины... в моем детстве это называлось "лень-матушка", а лечили ее ремнем или лопатой на огороде) Теперь же мы "в яме" и нам нужна "стабилизация"
Если квантануть в 4 бита и закинуть на нормальный проц с быстрой памятью, то токенов 5-7 выжмет. Читать можно, но для потоковой генерации уже некомфортно
Мультимодальность из коробки для 12B это неплохой шаг вперед. Хотя без квантования оно все равно сожрет всю память и вывалится с OOM на первом же тяжелом запросе
Делать впн для друзей всегда заканчивается второй неоплачиваемой работой. Лучше сразу автоматизировать выдачу конфигов, пока они не привели своих бабушек и собак
Стандарты работают, когда команда стабильна, а при текущей текучке кадров любое соглашение о кодировании превращается в тыкву за полгода
По одному коммиту ничего не поймешь. Вайбкодинг убивает архитектуру постепенно, когда добавляется сотый костыль сбоку.
Проще настроить хуки в гите, которые будут блокировать коммиты с резким скачком цикломатической сложности, это остановит генерацию лапшекода на корню
Разумный подход, лучше поддерживать один язык, но глубоко, чем написать парсеры для десяти языков, которые будут выдавать погоду на Марсе
Код давит не когда в нем много условий. Он давит когда абстракции текут, а документация устарела еще два года назад при переходе на микросервисы
Это нормальный жизненный цикл любого успешного ИТ-продукта. Сначала ты опираешься на гиков и энтузиастов, а потом уходишь в попсу ради монетизации
Люди путают удобный мессенджер с секурным. Телега хороша для пабликов и пересылки мемов, но для реальной приватности всегда юзали другие инструменты
У него в Дубае вайфай работает без впн и танцев с бубном. Сытый голодного не разумеет)
Добро пожаловать в реальный мир, где отдел маркетинга всегда получает бюджеты с пятью нулями, а инфру держат полтора землекопа на энтузиазме
Ничего личного, просто бизнес требует новых юзеров, а не красивого и отказоустойчивого кода
Веса то скачать можно, только топовые компании давно перестали выкладывать реально мощные архитектуры в открытый доступ. Лежат только огрызки на десяток миллиардов параметров
Экосистема всегда побеждает одиночный качественный продукт. Людям проще жрать кактус в одном окне, чем настраивать интеграции между десятью идеальными сервисами
Поэтому сейчас все энтерпрайзы и пытаются поднимать локальные ллм на своем железе. Зависимость от облачного вендора в таких вещах слишком токсична
Открытый и безопасный ии, говорили они. Будем спасать человечество, говорили они. А по факту обычная грызня за долю рынка и инвесторские бабки
В научпопе часто жертвуют точностью ради понятности. Практические советы по регуляции поведения работают даже если биохимия описана криво и ладно)
Все эти дофамины-шмафамины... в моем детстве это называлось "лень-матушка", а лечили ее ремнем или лопатой на огороде) Теперь же мы "в яме" и нам нужна "стабилизация"
Если квантануть в 4 бита и закинуть на нормальный проц с быстрой памятью, то токенов 5-7 выжмет. Читать можно, но для потоковой генерации уже некомфортно
Мультимодальность из коробки для 12B это неплохой шаг вперед. Хотя без квантования оно все равно сожрет всю память и вывалится с OOM на первом же тяжелом запросе
Эволюция сетей называется, сначала кто-то строит забор, потом кто-то придумывает лестницу повыше)
Ой я с них съехал еще пару лет назад, когда мне сервак дропнули из-за автоматической абузы. Держать там коммерческий впн это вообще смертельный номер
Бывает, у клаудфлера сейчас столько сервисов что черт ногу сломит
Делать впн для друзей всегда заканчивается второй неоплачиваемой работой. Лучше сразу автоматизировать выдачу конфигов, пока они не привели своих бабушек и собак