Веса то скачать можно, только топовые компании давно перестали выкладывать реально мощные архитектуры в открытый доступ. Лежат только огрызки на десяток миллиардов параметров
Экосистема всегда побеждает одиночный качественный продукт. Людям проще жрать кактус в одном окне, чем настраивать интеграции между десятью идеальными сервисами
Все эти дофамины-шмафамины... в моем детстве это называлось "лень-матушка", а лечили ее ремнем или лопатой на огороде) Теперь же мы "в яме" и нам нужна "стабилизация"
Если квантануть в 4 бита и закинуть на нормальный проц с быстрой памятью, то токенов 5-7 выжмет. Читать можно, но для потоковой генерации уже некомфортно
Мультимодальность из коробки для 12B это неплохой шаг вперед. Хотя без квантования оно все равно сожрет всю память и вывалится с OOM на первом же тяжелом запросе
Делать впн для друзей всегда заканчивается второй неоплачиваемой работой. Лучше сразу автоматизировать выдачу конфигов, пока они не привели своих бабушек и собак
Гигакод это прикольно, но обычно такие штуки выдают много воды и ломают контекст на больших проектах. я когда старался найти для себя лучшую ide, остановился на kodik. в нем агент хотя бы не работает как черный ящик и нормально видно дифф перед коммитом. в гитверсе же надо еще щупать, как оно на практике работает, а не на бумаге. рисоваться все горазды)
До физического труда роботы доберутся еще очень нескоро. Дешевле нанять сотню людей с лопатами, чем сделать одного прямоходящего робота с нормальной моторикой
Гуглить бесполезно, статистику размывают формулировками вроде оптимизации процессов. Никто в здравом уме не напишет в отчете, что заменил отдел поддержки на скрипт
Прогревает инвесторов перед выходом на IPO) Никто не даст тебе 60 миллиардов, если ты прямым текстом скажешь, что твой продукт оставит половину их клиентов без работы
Статья скорее про реакцию толпы после инцидента. Но факт остается фактом - пускать в нулевое кольцо проприетарный софт с автообновлением было огромной ошибкой админов
Веса то скачать можно, только топовые компании давно перестали выкладывать реально мощные архитектуры в открытый доступ. Лежат только огрызки на десяток миллиардов параметров
Экосистема всегда побеждает одиночный качественный продукт. Людям проще жрать кактус в одном окне, чем настраивать интеграции между десятью идеальными сервисами
Поэтому сейчас все энтерпрайзы и пытаются поднимать локальные ллм на своем железе. Зависимость от облачного вендора в таких вещах слишком токсична
Открытый и безопасный ии, говорили они. Будем спасать человечество, говорили они. А по факту обычная грызня за долю рынка и инвесторские бабки
В научпопе часто жертвуют точностью ради понятности. Практические советы по регуляции поведения работают даже если биохимия описана криво и ладно)
Все эти дофамины-шмафамины... в моем детстве это называлось "лень-матушка", а лечили ее ремнем или лопатой на огороде) Теперь же мы "в яме" и нам нужна "стабилизация"
Если квантануть в 4 бита и закинуть на нормальный проц с быстрой памятью, то токенов 5-7 выжмет. Читать можно, но для потоковой генерации уже некомфортно
Мультимодальность из коробки для 12B это неплохой шаг вперед. Хотя без квантования оно все равно сожрет всю память и вывалится с OOM на первом же тяжелом запросе
Эволюция сетей называется, сначала кто-то строит забор, потом кто-то придумывает лестницу повыше)
Ой я с них съехал еще пару лет назад, когда мне сервак дропнули из-за автоматической абузы. Держать там коммерческий впн это вообще смертельный номер
Бывает, у клаудфлера сейчас столько сервисов что черт ногу сломит
Делать впн для друзей всегда заканчивается второй неоплачиваемой работой. Лучше сразу автоматизировать выдачу конфигов, пока они не привели своих бабушек и собак
Гигакод это прикольно, но обычно такие штуки выдают много воды и ломают контекст на больших проектах. я когда старался найти для себя лучшую ide, остановился на kodik. в нем агент хотя бы не работает как черный ящик и нормально видно дифф перед коммитом. в гитверсе же надо еще щупать, как оно на практике работает, а не на бумаге. рисоваться все горазды)
До физического труда роботы доберутся еще очень нескоро. Дешевле нанять сотню людей с лопатами, чем сделать одного прямоходящего робота с нормальной моторикой
Гуглить бесполезно, статистику размывают формулировками вроде оптимизации процессов. Никто в здравом уме не напишет в отчете, что заменил отдел поддержки на скрипт
Прогревает инвесторов перед выходом на IPO) Никто не даст тебе 60 миллиардов, если ты прямым текстом скажешь, что твой продукт оставит половину их клиентов без работы
Статья скорее про реакцию толпы после инцидента. Но факт остается фактом - пускать в нулевое кольцо проприетарный софт с автообновлением было огромной ошибкой админов
Модель информационного дефицита рипнулась еще когда интернет стал массовым
Сейчас проблема заключается в том, чтобы заставить мозг хоть на секунду включить критическое мышление между скроллом ленты
Для моей ленивой пятой точки то что надо
Пока есть мамонты с бюджетами, будут и те, кто эти бюджеты осваивает