От генерации к генерации результат отличается, но я везде просто привел первые варианты, которые получились. На этом варианте много разных деталей, что тоже интересно
Я, скорее, озвучил свою боль. Все упирается в доступное железо. Та же qwen 3.6 на rtx 16gb карточке выдаёт 100т/с.
Когда модель начинает на простой задаче переливать из пустого в порожнее, генерирует большой объем рассуждений, то скорость становится очень критичной характеристикой.
Странно, пока писал статью, посматривал на смартфоне страницы и адаптивность верстки на дополнительном маленьком экране компьютера. В статье скриншоты, а по ссылке превью страницы. Можно попробовать открыть исходные страницы из репозитория, так будет максимально чисто. htmlpreview.github.io может ломать что-то также.
Да, ошибочка вышла, поправил, спасибо. Параметры запуска моделей в llamacpp есть в начале, но если кратко, то 3.6 и 3.8 с Q8, а 3.8 flash next с UD-IQ4_XS. На мини ПК с unified memory FEVM FAEX1 128gb со скрипом стартует связка 3.6+3.8 или 3.6+3.8 Flash Next. Думаю об этой железке написать подробнее.
Можно посмотреть и со стороны замещения рутины, которая есть в каждой должности. Человек работал, выполнял 100% своих обязанностей. Например, 80% это была рутина и отсутствие автоматизации. 20% чистое творчество. ИИ замещает эти 80% и пытается продуцировать 20% творчества, но уже с апрувом от человека. Получается, что ИИ заберёт рутину на себя, а самые творческие и креативные могут не переживать
Суммы сильно приблизительные. Нет смысла их приводить точно. Одно можно сказать однозначно — это дорого, но затягивает. Двигатель может стоит и 500 и 5000 рублей. Вопрос лишь в толщине кошелька. Кто соберется приобщиться к этому хобби прикинет комплектацию, которую ему хочется — дорого? — можно тут урезать, там урезать, тут все же качественное сразу взять — вот уже и потянуть можно — берем, паяем, настраиваем и в небо!
У нас немного другая структура проекта habrahabr.ru/post/154779/ но столкнулись с теми же проблемами. Решилось просто — написанием полноценного maven-плагина, который начинает выпускать текущий модуль, спускается по иерархии зависимостей до самого низа и запускает выпуск версий\подверсий модулей, предварительно проверяет, есть ли релиз для текущего снэпшота, если есть, то берет его. В итоге время выпуска сократилось раз в 5 и рутинная работа по сверке версий, коммитам в SVN пропала.
Работает этот подход, правда, только когда сборка корректна. А то бывает такое, что некоторые разработчики начинают использовать транковые версии модулей в ветках сопровождения, но с этим мы боремся и сделали защиту выпусков в плагине.
От генерации к генерации результат отличается, но я везде просто привел первые варианты, которые получились. На этом варианте много разных деталей, что тоже интересно
Я, скорее, озвучил свою боль. Все упирается в доступное железо. Та же qwen 3.6 на rtx 16gb карточке выдаёт 100т/с.
Когда модель начинает на простой задаче переливать из пустого в порожнее, генерирует большой объем рассуждений, то скорость становится очень критичной характеристикой.
Странно, пока писал статью, посматривал на смартфоне страницы и адаптивность верстки на дополнительном маленьком экране компьютера. В статье скриншоты, а по ссылке превью страницы. Можно попробовать открыть исходные страницы из репозитория, так будет максимально чисто. htmlpreview.github.io может ломать что-то также.
Научно верное замечание, надо поправить по тексту. Спасибо!
Да, ошибочка вышла, поправил, спасибо. Параметры запуска моделей в llamacpp есть в начале, но если кратко, то 3.6 и 3.8 с Q8, а 3.8 flash next с UD-IQ4_XS. На мини ПК с unified memory FEVM FAEX1 128gb со скрипом стартует связка 3.6+3.8 или 3.6+3.8 Flash Next. Думаю об этой железке написать подробнее.
Можно посмотреть и со стороны замещения рутины, которая есть в каждой должности. Человек работал, выполнял 100% своих обязанностей. Например, 80% это была рутина и отсутствие автоматизации. 20% чистое творчество. ИИ замещает эти 80% и пытается продуцировать 20% творчества, но уже с апрувом от человека. Получается, что ИИ заберёт рутину на себя, а самые творческие и креативные могут не переживать
Именно так. Мы в шаге от, возможно, самой существеной смены наших парадигм. А дальше читаем фантастов
Безопасники нарасхват нынче. Книга по хакингу устройств позволит вспомнить специальность по диплому.
И денег за помочь семья не попросит
Спасибо
Возможность показать свою статью сразу 20к пользователям за утро раньше очень мотивировала. При публикации всегда был лёгкий мандраж
Да, есть такое :)
Спасибо за развернутый коментарий!
Есть и такое, тут тренироваться можно на коллегах, наполняя базу знаний. Правда, иногда такое понапишут...
Поддерживаю!
@tinkoff_bank, думаю, может дать комментарий без проблем
— Да, айтишник
— Да, на есть Хабре.
— Да, пишу посты
— Нет, инвайт не дам
Работает этот подход, правда, только когда сборка корректна. А то бывает такое, что некоторые разработчики начинают использовать транковые версии модулей в ветках сопровождения, но с этим мы боремся и сделали защиту выпусков в плагине.