Хабр Курсы для менеджеров
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток Менеджмент доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 156
Да, теперь с существующими задачками тимлиду никак не справиться. Телескоп видит дальше, микроскоп глубже, а топор освоил уже круговую рубку. Так найдите задачи посложнее, по забористее! Хочет клиент увидеть восход из номера? Рассчитайте углы восхода в разное время года, моделируйте этажность зданий, трассируйте лучи!
Сейчас я думаю, практически гарантированно будет какая-то мощная авария, связанная с ИИ.
Сейчас я думаю, практически гарантированно наконец наступит "просветление" и тимлиды перестроятся. Разверните Pi.dev с qwen3.8-27B и какая то авария покажется дальше.
Спасибо за статью. Главный ад, который вы описали между строк — это рассинхрон ожиданий бизнеса и природы инженерной работы.
Топ-менеджмент уверовал в сказку: «Раз ИИ пишет код за 10 минут, значит, фича готова к проду за полчаса, а сеньор теперь ещё и сам себе продакт, аналитик и тестировщик». При этом бизнес забывает простую истину: скорость набора текста никогда не была главным узким местом в софтверной разработке.
Самое дорогое время всегда уходило на:
Формулирование непротиворечивых требований (чего мы на самом деле хотим?).
Синхронизацию интерфейсов и данных.
Анализ краевых кейсов и деградации под нагрузкой.
ИИ не только не решил эти задачи — он их обострил, потому что снял барьер на производство мусорного кода. Теперь тимлид тратит 80% энергии не на фасилитацию команды, а на то, чтобы отбиваться от требований «запустить вчера», пытаясь объяснить, почему сгенерированный за 5 минут прототип требует двух недель на безопасность, отказоустойчивость и соблюдение регламентов.
Да. И еще труднее стало отбиваться от компромиссов "выпустим прототип сейчас, потом допилим на проде". У людей уже есть в руках красивая конфетка, отказаться от быстрого запуска сложнее
выпустим прототип сейчас, потом допилим на проде"
Это быстрее. Но дороже. Даже дороже чем без LLM. Это бизнес готов принять?
Но 2 плюса:
Бизнес может увидеть хотя бы happy path и быстро его скорректировать или даже отменить
Все же визуалы, блжд! Не пойму пока не увижу©
не совсем понимаю всех этих претензий к бизнесу. я отчетливо вижу как манагеры именно айтишных подразделений пытаются навязать бизнесу ложное представление о том, что иишный прототип можно быстро выкинуть в релиз. как раз бизнес в крупных компаниях относится скептически к результатам внедрения и не пытается загнать всех своих менеджеров в ии будущее.
У людей уже есть в руках красивая конфетка, отказаться от быстрого запуска сложнее
Демонстрируйте им, что внутри красивой обёртки.
все так. С одной стороны руководство спрашивает почему так медленно, потому что ты пытаешься вникнуть в то что написал ии. А с другой почему у нас проблемы в проде случились, если ты не вникаешь и пропускаешь. Они не понимают что ускорилось время написания кода, а время понимания не уменьшилось. Для простых задач это даёт буст, а для сложных вряд ли. И чем дальше, тем больше этой менеджерской шизофрении и выше когнитивная нагрузка на разработчика. А поскольку с работой сейчас везде туго, это дополнительно добавляет стресса.
Количество серьёзных решений на час работы увеличилось, и это дополнительно выматывает
руководство тоже будет ощущать давление со стороны конкурентов. которые могут быстро скопировать и доработать любое ИТ решение.
выживет тот кто наладит свои процессы в том числе разработку с ИИ и сможет эффективно и быстро развиваться не теряя в качестве.
Надо просто ответить:
- это не медленно.
самый отличный коннектор с логистическими операторами
С логистическими или с логическими???
На мой взгляд, ценность тимлида только вырастет. И в своей компании он будет решать как раз те вопросы, которые вы описали.
Если разработку посадили на ракету, кто будет следить за качеством продукта? Кто будет следить за дырками в ИБ? Кто будет гарантировать, что в случае выкатки мусора на прод, команда сможет его безболезненно откатить? На ум приходит ещё много подобных вопросов.
Трио тимлида - это люди, техника и процессы. Они никуда не деваются, но сильно трансформируются.
Возможно будет интересно посмотреть на статью про мифический человеко-месяц в эпоху ИИ. Многие темы как будто бы перекликаются https://j11g.com/the-mythical-man-month-in-the-age-of-ai
Прям озвучил мои мысли. Сейчас занимаюсь переходом из ТимЛидов в разработчики, чтобы не отстать от прогресса - у ТЛ меньше возможностей поработать с ИИ, чем у разработчика (да и времени сильно меньше свободного).
С чего бы? Вы потому и лид, что можете свой график выстроить вместо бесконечного потока задач у дева.
К сожалению, в разных компаниях в понятие ТЛ вкладывают разные роли. В нашей компании ролей так много, что времени свободного найти достаточно сложно. Но основная причина все таки в том, что ТЛ (не играющему) мало в чем может помочь ИИ. По крайней мере, я не нашел ему применения.
Мало? Одно только наведение и отслеживание порядка в проектах, тикетах и людях экономит часы в неделю. ЛЛМ будет всегда поддерживать статус всего актуальным и говорить если где-то что-то идет не по плану и надо лично посмотреть.
ЛЛМ готовы забирать вообще всю рутину. Поищите ее в своей работе и сдайте агенту. Он справится.
Тикетами у нас занимаются системные аналитики и разработчики. А вот общение с бизнесом, 1-1, планирование на LLM уже не скинешь.
Тимлид это наличие команды. А значит проекты, тикеты и все что полается. За всю команду. Тимлид говорит бизнесу как дела и когда будет готово. Вот ведение всего этого и скидывайте. Себе оставляйте только чтение сводок и разруливание проблем.
Вы так говорите, будто это много работы. На то вы и личинка руководителя, чтобы строить эффективные процессы. Вы думаете дальше по этой ветке станет проще?
Пхх. Тимлида вообще можно заменить агентом. Проведение ритуалов, отписывание статусов. Или что, вы думаете это такая незаменимая надстройка над жирой? :)
Если что я сам прошел лидство и +1 :)
Можно. И это будет отлично работать до тех пор пока все идет нормально.
Пожарных тоже можно заменить манекенами. Пока пожара нет все будет работать идеально.
Тимлида вообще можно заменить агентом
Да всех можно заменить агентами. Но тимлида - тяжелее. Тимлид - связь между бизнесом, командой, техникой. Бывают, конечно, плохие лиды, которые выглядят как надстройка над Жирой. Убери их - станет только лучше, ИИ тут не причем. А убери хорошего лида - и команда превратится в толпу.
Но что с управлением процессом производства ИТ-содержащего продукта на уровне команд?
А зачем теперь большие команды, когда условно 2-3 человека с подпиской на ИИ могут сделать объем работы, ранее делавшийся 10-15 сотрудниками? А для команды из 1-3 человек тимлиды становятся противопоказаны.
В команде из 1 человека и 10-15 агентов кто будет считаться тимлидом, последняя итерация Fable или человек? /s
Странный вопрос. Кого назначите, тот и будет отвечать.
Мой комментарий относился к тому, что для небольших команд ценность тимлида значительно снижается, так как даже без него отдельные разработчики могут автономно делать значительный объем работ.
У меня другие наблюдения. Поскольку многие разработчики не сильны в менеджерских качествах, менеджерят работу сонма агентов они так себе
Наблюдения чего? Внутри конкретной команды, отдела или компании? Просто, если сотрудник не знает, что и как ему делать, и ему нужно все подробно расписывать, то уж лучше расписать план работ для ИИ. Он и работает быстрее и обходится дешевле.
Поэтому ваш пример с разработчиком, это пример кодера и балласта для работодателя и первый кандидат на сокращение.
Вопрос был задан без /s, но успел добавить.
Если отдельный разработчик один в команде и рулит 10 агентами, то его можно своего рода тимлидом назвать, вместо выгорания следим за размером контекста, вместо закладывания коэффициента 1.4 на юнит тесты теперь следим за лимитами.
Тимлид от слова тип и у него должне быть софтскилы. А если разработчик один рулит десятком агентов, то он может быть хоть закоренелым мизантропом, лишь бы код выдавал :-)
Софт скилы тоже трансформируются, вместо софт скила к людям - софт скил к агентам, чтобы антропики не забанили когда опуса трехэтажным матом покрыл, или чтобы ограничения безопасности не триггернуть при security-review. /s
Но софт скилы с мясными могут пригодиться, чтобы с заказчиком требования обсудить, или у соседней команды требования к API спросить. А просто код выдавать и агентов прибивать сможет и Fable.
Он же ставит задачу агентам на естественном человеческом языке. Значит, основной хард у него уже менеджерский: ясно доносить информацию, уметь ставить задачи и контролировать, обучать и т.д.
Только это не относится к ИИ. Ему все равно в каком тоне ему ставят задачи, пахнут ли у разработчика носки, улыбается ему сотрудник или хмурится. ИИ по большому счету наплевать даже на наличие ошибок в формулировок задач для агнетов (можно писать с ошибками, на разных языках или транслитерации). Он поймет все и у него не будет на этот счет никаких эмоций.
Но самое главное, у ИИ нет эмоциональной привязки с к собственному коду, поэтому ему можно многократно ставить задачу по переписыванию одного и того же без опасений получить в глаз.
Поэтому все софтскилы для ИИ идут лесом, тогда как планировать работу и проверять результат, это основа для профессиональных навыков программиста и к менеджерским софт скилам никак не относится.
Не соглашусь. Носки можно не менять, но мысли надо уметь выражать более ясно. Иначе как минимум лишние токены сожжёшь
уметь выражать более ясно
Для работы с ИИ можно сразу в промпте написать, “перескажи как ты понял задачу и покажи поэтапный план работ”. И можно уточнять задачу хоть до идеала, тогда как подобная попытка работать с людьми вызовет очень негативную реакцию при постоянном использовании.
Не соглашусь.
Ваше право. Но токены - это просто деньги, и кто-то будет дешевле платить за инструмент, а кто-то дороже. Но софтскилы для ИИ не требуются от слова совсем, тогда как нестиранные носки тимлда легко могут сорвать релиз.
все тоже самое ручками не быстрее? сразу знаешь, что и зачем… а то оно тебе пишет про вот это и вот это, а полезешь смотреть - наврал, собака… да еще и про безопасность типов как будтобэ и не знал ни разу… ну а зачем, все равно ж рефакторить еще раз 100500, можно кожанному лапши накидать по ушам, вруг не заметит… а тесты подгоню потом под его просьбу)
А человек типа так не может что ли??? У людей для подобного поведения есть мотивация, тогда как результат работы ИИ, это только ваша зона отвественности. Вы же сами настраиваете свой рабочий процесс и промты так, как вам удобно или как считаете правильным. Все в ваших руках :-)
Вы из 2023 или 2024?
Или код без ТЗ пишете?
Я просто реально не понимаю отрицателей на текущий момент, может пора уже занести 20 баксов антропику/опенаи, и понять что все, точка невозврата уже пройдена?
Это называется умение делегировать задачи на другого. Человекам делегируешь, они тоже наврут и тесты плохо напишут с багами(
Кого назначите, тот и будет отвечать.
О, правильное слово прозвучало. А кто будет отвечать перед бизнесом и чем? ИИшечка словами "Да, я ошиблась, давайте переделаю"?
В комментариях выше заметили, что компаниям нужно пересмотреть человеко-центричные процессы. Это уже происходит. Например, спринты становятся более бессмысленными, а разделение продукта по team topology более востребованным. Ручное ревью заменяется автоматическим по установленным правилам. Навык кандидата эти правила применять. Качество продукта и раньше шло от заказчика, а не от исполнителя. Рефакторинг делался для уменьшения когнитивной нагрузки и устранения техдолга, что тоже имеет мало смысла когда сгенерированный код проходит ревью. Набор инструментов и стандартов фиксируется архитектором под требования конкретного продукта, и является частью ревью, как и раньше. Что кодогенерация это 16% SDLC, а большая часть потерь это управление знаниями о продукте - не секрет, можно сослаться на доклад Атлассиан. Много работы для тимлида, люди не поменялись, и ИИ вряд ли их испортил
Насчёт качества: конечно, рамки предполагались заказчиком. Но его обеспечение - что с точки зрения кода позволит нам в них вписаться? - всегда было выбором команды. Я с этой стороны
Мне кажется вы путаете качество кода и продукта. Я видел продукты с перфектным кодом у компаний банкротов
Код - часть продукта. Не имеет смысла их разделять
Есть как бы множество цифровых продуктов без кода. Вобщем, попробуйте выйти за границы рутины тимлида и подробно описать все действия в вашем SDLC как они есть от стори до обслуживания, обозначить на каждом шаге тип решаемой проблемы - технический или организационный. Вторые - это поле будущей деятельности вне ада
Почему спринты более бессмысленные? Поставка продукта всё так же порциями, и остальные звенья процесса - от BA до приёмки - никто не отменяет
Спринты человекоцентричны, это внутрянняя кухня команд, такая же как и концепция задачи в таск-трекере. Поставка клиенту идет релизами. Ему без разницы как лид это сделает, но есть разница сколько релиз будет стоить. Кодогенерация это очень маленькая часть SDLC. Мне тоже неприятно что профессия переводчика с человеческого но машинный исчезла, но мы это сами сделали
Но это не ответ на заданный вопрос. Люди то из процесса никуда не исчезли
У нас в конторке разрабов и qa посокращали х2-х3, спринты с их планированием перед и ретро после как-то сами собой отменились. Перешли на rolling release и планирование по запросу, а не по расписанию. От самого планирования теперь осталась проработка ТЗ и корнер кейсов, а не оценка в часах и сторипоинтах. Итоговый документ (спеку) теперь пишет иишечка по видеозаписи, тимлид затем вносит только косметические правки. Так что да, старые процессы исчезли.
Только вот вакансий тимлидов я вижу больше, чем разработчиков. Теперь тимлид - это не просто на митинге потрындеть и задачи в джире подвигать - теперь на нем лежит и реализация, и документирование, и тесты и CI/CD. Все то, что делали уволенные недавно разработчики, QA, техписы и девопсы. Теперь он человек-оркестр с зоопарком нейронок. И отвечает за все и сразу.
Про рефакторинг готов поспорить, остальное всё с моей колокольни плюс-минус так. Очень большой страх, что если оно так шагнуло за год, то что будет ещё через год? Просто отдаём ИИшечке запись всех экранов и микрофонов и дальше оно само всё делает? И сколько мы просидим в текущей должности, месяц, два?
PS. Неплохо бы расшифровать в тексте IC, не все прям в курсе.
Даже если отдать записи микрофонов вместе с рулями. Почему то или иное решение сделал человек, мы можем всегда спросить у него, воспроизвести логику. Почему чёрная коробочка так сделала, для нас частно непонятно, пусть даже и с пояснением шагов. Доверие утрачивается.
ps. IC расшифровал
Я сам постоянно пишу про ответственность при использовании ИИ и сам же не додумал. Тимлид это уже менеджер нижнего звена, и он несёт ответственность за свой фронт работ (как минимум сроки и качество). Брать её на себя менеджеры повыше не будут, так что надежда есть на сохранение кресла. Бюрократ бюрократу глаз не выклюет. Вот с зарплатами в такой логике могут быть неприятные сюрпризы.
Почему чёрная коробочка так сделала, для нас частно непонятно, пусть даже и с пояснением шагов.
Не совсем так же. Вот ИИ1 нагенерил какой-то очередной свой нейрослоп вместе с необходимыми артефактами. Вот есть человек, который не понимает, что там произошло в этом нейрослопе. Тогда человек берет ИИ2 и просит ему объяснить, что там происходит.
Соотв, вместо "мы с командой за неделю разберемся в большом легаси-монолите" - менеджмент вполне логично ожидает "я щас джуну своему задачу поставлю, он с Клодом завтра к утру уже будет знать все тонкости этого монолита как если бы сам его написал".
Правда, на практике так не получается, но в целом, логично ожидать это дело не сильно мешает.
Проблема, как всегда, в том, что Имитация Интеллекта нередко несёт пургу — но убедительную пургу. По той простой причине, что «является ли текст пургой или истиной» — в глазах читающего.
@Hemml: Да, всё, в чем ты не разбираешься, нейронка делает хорошо. Но вот то, в чем ты что-нибудь понимаешь, она всегда делает плохо
Полагаю, Individual Contributor.
An Individual Contributor (IC) is an employee who delivers hands-on work and technical or functional value for a team or company without having any direct reports or management responsibilities.
Я выбрал смиренно взирать на то, как вообще вся система человечество-технологии-среда идут вразнос, наблюдая в приполярье как цветут ноготки на клумбе в начале ноября. (Пояснение, это не норма для наших мест и раньше уже во всю сугробы лежали).
Хм. Вообще не ожидал, что дочитаю статью до конца. Более того, что не дочитаю статью и соглашусь практически со всем.
Я просто-бы сказал - будь чуть пооптимистичнее в выводах. Если ты действительно хороший программист, то ты умеешь использовать свои навыки в решении проблем.
Я ТРИ года назад написал статью про то, что любой фреймворк как факт можно будет класть в гроб. https://habr.com/ru/articles/757150/ (Комменты в этой статье читать без слёз вообще нельзя. Эксперты сидят и рассказывают про то, что никто и никогда никому не позволит вайбкодить и никто никогда не будет писать проекты чисто через ЛЛМ без понимания проекта).
Понимаешь, чтобы не быть луддитом в области, надо понимать тот факт, что всё в мире в тот или иной момент будет меняться. Так ещё ты живёшь на планете Земля. Тут любая идея будет извращена на 146% каждый раз.
Вспомни трекинг рекламы. Удобно-же было знать, от какой рекламы к тебе пользователи приходят. Хотел-ли ты, чтобы это всё превратилось в модель, в которой аппки на телефоне пользователя с помощью гироскопа отслеживают что пользователь делает и моделируют скор для следующего ролика в соотвествии с тем, как пользователь себя ведёт?
Помнишь, как в 2006 году поиск в гугле стал лучше, потому что появился алгоритм ранжиования? Ты думал, что это приведёт к тому, что ВСË что будет делаться будет делаться через СЕО? А помнишь, как стены стали бесконечными? Хотел ли ты экономики, в которой фраза "Ставьте лайки, подписывайтесь и пишите комментарии" станет прощанием вместо "пока"?
Добро пожаловать. Мы на планете без тормозов. Любая идея, которая может приносить деньги будет обюзана людьми без моральных принципов, которые заставят целый рынок идти в непонятном направлении, потому что это приносит денег.
Тебе надо привыкнуть к тому, что всё будет меняться. Просто надо уметь применять свои навыки к реальной жизни, а не виртуальному её представлению в твоём разуме. Надо смотреть на то, как использовать твои навыки тимлидства в области управления персоналом и как превратиться из того самого несчастного тимлида, которого одолевают ЛЛМы в человека, который делает деньги. В конце концов, надо понять, что твоя способность создавать больше выживательных вещей в твоём окружении и помогать другим выживать лучше. В текущем положении дел деньгами можно решить примерно 99% проблем связанных с выживанием. В текущем положении дел. Пока твои навыки отстрела дичи в лесу не решают вопрос. И на том спасибо.
Посему, надо просто понимать, что ты будешь выживать так или иначе. За последние 3 года в мире было создано, напечатано или так или иначе сделано 2 триллиона долларов (и это только в США). Когда я был маленьким, я слышал истории про то, что бомжи умирали с голоду. В современном мире бомжи - это самые толстые люди, которых я только видел.
Ты же, со своими навыками инженерии, пониманием бизнес-процессов и подобными навыками не пропадёшь. Ты можешь стать менеджером в компании, которая производит фены. Ты можешь стать много кем. Не бойся. Дивный новый мир - он тут. Надо просто иметь какие-то моральные ориентиры и знать, куда в нём идти.
Про фены... почему-то на этом месте вспомнилась реклама Московского вентиляторного завода. Спасибо на добром слове! Да, навыки адаптации и пересборки прокачиваются постоянно. Мы думали, что в ИТ нашли понятную и интересную работу на долгое время, ага...
Помни о том, кто ты такой. Ты - инженер. Я конечно понимаю, что советское образование превратило это слово в часть составного "математик-программист инженер пятой категории". Но если ты внимательно изучишь слово инженер, то ты быстро поймёшь что произошло оно от engine, которое ещё из латинского языка значит происходит от слов in- и gene, первое из которых значит "врождённая способность" а genus - это "создание".
Посему, просто будь инженером, человеком у которого есть способность создавать. Ещё вчера мы писали программы, а уже сегодня нам только и осталось что создавать будущее. Просто примени свои аналитические способности и способности по организации к тому как ты живёшь и к тому как ты создаёшь свою жизнь.
Комменты в этой статье читать без слёз вообще нельзя. Эксперты сидят и рассказывают про то, что никто и никогда никому не позволит вайбкодить и никто никогда не будет писать проекты чисто через ЛЛМ без понимания проекта
Этап отрицания плавно уходит в прошлое. Что там следующее? :)
Люди прекрасно понимают, что ещё год-два, и профессии "программист" в прежнем понимании не будет.
Мне кажется это ключевой посыл вашей статьи. Мы живем в эпоху перемен.
ps
Но меня мучает вот какой вопрос,если завтра нам обрубят доступ к западным ИИшечкам (вон клод тот же уже во всю по цвету паспорта лочит людей, думаю пользователя кодекса стоит задуматься о том что будет если и их залочат), что будет тогда у нас с рынком айти? Гигачат или дипсик, при всем моем уважении к разработчикам этих моделей, гораздо хуже может решать задачи программирования.
Волну критики программисты примут на себя. "Вчера вы могли эту задачу сделать за час, почему теперь делаете неделю?!!!"
Но меня мучает вот какой вопрос,если завтра нам обрубят доступ к западным ИИшечкам, что будет тогда у нас с рынком айти?
Будет тоже самое, что и с другими отраслями под санкциями - много шума про импортозамещение гигачатом и алисой, много скам-оберток для дипсика, много прослоек в Грузии / Армении / Кипре, которые организуют паспорт любого цвета, проксю и виртуальный рабочий десктоп с нужными моделями за оплату.
тем кто попал под санкции очень больно, они живы только благодаря поддержки государства, которое готово пока платить.
Да, но там где одному плохо под санкциями, другой перепродает иностранные карты Visa / MasterCard с конскими процентами и курсом конвертации, или запчасти для авиации перепродает транзитом через Среднюю Азию, или очередной "учет надоев" делает в аппстор.
бесспорно, но я же о другом говорил
тем кто попал под санкции очень больно, они живы только благодаря поддержки государства
Если именно на это отвечать, то государство все таки поддерживать очень хочет только военку скорее, сокращает бюджеты на остальное и побольше налогов собрать пытается. Это просто слишком широкое суждение, всех под одну гребенку так грести.
Под санкции много что попало, от яндексов, сберов и прочих банков до чего-то нефтедобывающего. Также и с рынком айти будет - все разношерстное, кто-то будет страдать и в гигачате пытаться вайбкодить, кто-то через прослойку возьмет дипсик, кто-то через прокладку в Армении клод возьмет, а последний самый богатый эту прокладку организует и продаст.
Если именно на это отвечать, то государство все таки поддерживать очень хочет только военку скорее, сокращает бюджеты на остальное и побольше налогов собрать пытается. Это просто слишком широкое суждение, всех под одну гребенку так грести
ну хотеть то он может много чего, но по факту вон и льготы давали айтишникам (сейчас срезали, не знаю все или нет) и дэмфер на цену на топливо делают....
Также и с рынком айти будет - все разношерстное, кто-то будет страдать и в гигачате пытаться вайбкодить, кто-то через прослойку возьмет дипсик, кто-то через прокладку в Армении клод возьмет, а последний самый богатый эту прокладку организует и продаст.
ну и конечная стоимость вайбкодеров начнет расти )
Уж больно быстро оно развивается. Это даёт надежду, что даже модели второго эшелона будут достаточно круты
Китайские модели выходят на полгода позже и отстают ещё на полгода? Ок, а это много?
Год назад кажется как раз и случился перелом. Так что эта или следующая итерация открытых моделей подтянется на достаточный уровень.
Если обрубят, то мы потеряем в продуктивности десятки процентов. На фоне выигрыша в разы с каждым годом. Ну и что?
PS Даже тут в комментах пробегал Qwen3.8-27B вполне себе подъёмная модель для запуска в квартире. И много от кого слышал, что пишут код даже такие модели. Сам пока не научился
вы говорите про локальную модель? допустим, сколько будет стоить железка что бы на ней могли скажем работать с десяток людей? что бы был достаточный размер окна контекста и скорость генерации токенов была нормальная. И тут встает вопрос, что будет дешевле кожаные мешки или эта железка
Любой разраб с одной GPU (rtx 5060 ti (16gb), rtx 5070 12gb и выше) и 32 RAM - может себе поднять локально q3.8 27b. Причём, современная 50xx линейка нвидиа карт пусть и желательное железо, но вовсе не обязательное, можно и на более старом поколении видях запускать, правда нужно будет заморочиться, гайды в помощь, на реддите бенчамарки с таблицами по (prefill, decode, TTFT и другим метрикам).
Для нескольких человек, можно собрать один сервер с двумя rtx 3090. 2-3 человека(агента) со средней генерацией ~100+ tps этот сетап спокойно потянет, но нужно использовать все возможные оптимизации движка инференса + nvlink между видеокартами.
допустим, сколько будет стоить железка что бы на ней могли скажем работать с десяток людей?
Если все 10 человек будут круглосуточно крутить агентские сессии с максимальным контекстом. То для локального qwen3.8 27b - нужно брать или одну профессиональную nvidia железку (пару лямов) или городить несколько серверов на 2x3090 и других бюджетных комбинациях. В любом случае, это будет 500к+ рублей.
что бы был достаточный размер окна контекста и скорость генерации токенов была нормальная
По одной rtx5090 на человека, будет и скорость и макс. контекст :). Или смотрите в интернете сборки на нескольких картах, например на 2x5060TI - люди запускают 256K (context) и 70-130 (tps).
И тут встает вопрос, что будет дешевле кожаные мешки или эта железка
Ну это зависит. qwen3.8 27b на одного человека обойдется в 100-140к (условный сетап на 2x5060TI). Дальше надо мерить пользу этой железки относительно живого человека.
Другой вариант, что у многих разрабов есть игровые пекарни с необходимым железом для агентов. Можно разрешить им работать на удалёнке со своего железа и вопрос с железом решён.
"с одной GPU (rtx 5060 ti (16gb) "
у меня вот одна 5060ти (16гб есть) и что-то я не понимаю, как туда влезет квен 27b
и ниже пишете.
что надо "сетап на 2x5060TI"
в 4 бита влезет, в чём вопрос?
Моё упущение, двояко написал в исходном сообщении.
у меня вот одна 5060ти (16гб есть) и что-то я не понимаю, как туда влезет квен 27b
Если ничего не настраивать, то часть весов ляжет в GPU, часть в RAM, это будет работать из коробки, просто генерация будет 5-15 tps. Для того, чтобы больше весов уместилось в GPU, берут квантованные модели, меняют квантование kv-кэша. При жёстком квантовании можно уместить 27b целиком в 16gb vram. И тут встает вопрос распределения (контекстное окно / скорость генерации токенов / скорость prefill / качество работы модели (галлюцинации) / цена железа). Условно на одной видяхе с vram 12-16 будет компромисс между чем-то, видяха на 24 - полу-оптимально, и на 32 - оптимально.
На одной 5060ti карте получают от 20 до 50tps в тестах которые я видел. Что в целом, может подойти для неспешной одноагентной, размеренной разработки микросервисов с частыми перерывами на кофе. А сетап с 2x5060ti это про снижение компромиссов до минимума, там можно замахнуться на мультиагентный сетап, генерацию в 100+ tps и 256K+ контекст.
ну и не надо 27, надо 3.8 next. 16+64 дают 40/300 токенов
Позволю с вами не согласиться, по крайней мере для своего случая.
Сразу оговорюсь, что у меня иная ситуация. Такого сета нет, но есть MacBook Pro 16 на M4 Pro и 48 Гб объединённой памяти.
Как я только ни пытался переехать с топовых моделей (Клод/Сол) на локальные LLM.
Поднимал разные нейронки. И старые и новые. И MOE и Dense.
Ну не вывозит оно пока то, что требуется лично мне для работы.
У меня несколько рабочих проектов. Два примера
1. Монорепо из Go-сервисов (7 штук) и 3 фронтов на React. Общее LOC: 367 к
2. Монорепо из NodeJS-сервисов (8 штук) и 2 фронтов на React. Общее LOC: ≈200к
Документация, к слову, есть в обоих проектах. Актуальная и достаточно подробная.
Ни одну мою реально рабочую задачу локальная LLM решить за вменяемое время не в силах, увы.
q3.8 27b тоже, разумеется, пробовал. Не тянет, к большому сожалению.
Просто уходит в обдумывание ответа на минут 10, собирает контекст и... всё. Код она начинает писать со скоростью черепахи. В условиях, когда на день есть задача "сделать раздел и бэк к нему", это никуда не годится :)
Я понимаю, что "настоящая GPU" выдаёт куда большую производительность. Но даже кратное ускорение конкретно мне не помогло бы.
Но зато я использую локальные LLM, когда мне нужно что-то обобщить из большого контекста, а времени (или желания) читать нет.
Либо если есть чувствительная тема, о которой я не хочу разговаривать с моделями от гигантов в силу приватности.
Очень сильно надеюсь, что на горизонте ≈2 лет локальные модели, способные работать на моём железе, смогут выдавать хотя бы 1/3 от того, что могут передовые от гигантов и с той же скоростью.
Ни одну мою реально рабочую задачу локальная LLM решить за вменяемое время не в силах, увы.
Я понимаю, что "настоящая GPU" выдаёт куда большую производительность
Ну да, на MBP m4 очень низкая пропускная спобность памяти. От конфугурации очень многое зависит. С форума эпла есть следующая сводка по пропускной способности памяти:
120 GB/s (plain M4) (14" models only)
273 GB/s (M4 Pro)
410 GB/s (M4 Max with 14-core CPU)
546 GB/s (M4 Max with 16-core CPU)
273 GB/s это уровень rtx 4060 / NVIDIA DGX Spark. К слову, одна 5060ti на pcie5 дает 448 GB/s. Но и нужно помнить, что все эти значения теоритические, на практике для генерации токенов (decoding) будет доступно 70-80% от пиковых значений.
Просто уходит в обдумывание ответа на минут 10
На вашем объеме shared memory можно не квантовать kv-cache.
Понизить effort до high, т.к. на xhigh qwen модели упарывается в обдумывание.
Если это не поможет, то ждать новых локальных моделей (аля qwen4) или смотреть в сторону QwenFN (Strata), но нужны большие объемы vram или ram.
В остальном солидарен, что не для всех задач хватает маленьких локальных моделей. Всё таки, чистые знания и кругозор моделей это именно объем в параметрах. Как-бы не упаковывали эффективно что-либо в b27 модели, это дает эффект именно на логике моделей, меньшем кол-ве галлюцинаций, tool-calling, и других мыслительных характеристиках.
Быстрое развитие может быть обоюдоострым мечом. А если у вас последний дипсик 16, и для разработки хватает 2-3 человек с роем агентов, а у соседа Васи последний грокоопус 21 и он может напрямую через Нейролинк подумать и навайбить 100 ваших приложений за тоже время, да заодно еще и вашу кофемашину с чайником взломать по сети?
И тут мы упираемся в проблему спроса: кому нужны ваши 100 приложений?
сто приложений по копеечке собирают рубль, пока разработчик с дипсиком получает только копеечку
делает agent native микропейменты, затягиваем в каждое наше агентоцентричное приложение рой дипсик агентов разработчика 1 и промт инжектим циклом вопросов о Тайване и тяньаньмень 1989 пока не выдаст сид фразу от биткойн кошелька
делаем 50 приложений по ремонту кофемашин и 50 приложений по ремонту чайников для разработчика 1
Я не такое будущее себе представлял, пока ещё были силы о нём мечтать
сто приложений по копеечке собирают рубль
Для этого должны быть 100 желающих эту копеечку отдать именно этому Васе. Но таких Вась с нейролинками - миллионы (сильно преуменьшил), приложений - сотни миллионов (капец как преуменьшил), а пользователей 7-8 ярдов, считая дементных и новорожденных. На всех Вась не хватит.
Особенно если государства ещё и барьеры поставят (а поставят жеж)
а где предел потребности количества приложений? вопрос риторический :)
когда то приложения вообще не кому не были нужны....
PS Даже тут в комментах пробегал Qwen3.8-27B вполне себе подъёмная модель для запуска в квартире. И много от кого слышал, что пишут код даже такие модели. Сам пока не научился
У меня запущена qwen3.8-flash-next-unsloth-ud-q4_k_xl (это 177B на strata) на компе с 128Гб и 4090х24Гб с контекстом 256K и дает производительность (26,1–30,3) токенов секунду.
Очень даже юзабельно.
Под какие отечественные операционки и на каких языках импортозамещать все это надо будет, вот главный вопрос
Правительства, регуляторы обрубают любые доступы на сервера поставщиков, чьими услугами вы привыкли пользоваться. И ваши разработчики уже 3 года не писали код руками.
Так давно уже есть тенденция перехода на локальные модели. Джин уже выпущен из бутылки и его назад не загнать, даже если все ведущие модели и поставщики завтра исчезнут, разработчики продолжат пользоваться услугами ИИ.
Отличная статья, и особенно эти слова.
Сам об этом думал, так должно быть.
Как с ядерной энергетикой.
Все смеются над Юдковским каким-нибудь, называют его фриком, но все предпосылки уже на месте и появляются все новые каждый день в новостях.
Представьте. Утром вы читаете в новостях, что ИИ страны N смог положить национальную систему здравоохранения (энергетики, транспорта, etc) страны K. Всё. Правительства, регуляторы обрубают любые доступы на сервера поставщиков, чьими услугами вы привыкли пользоваться. И ваши разработчики уже 3 года не писали код руками.
Угу, Юдковского и К читаю с нулевых, вижу всё больше флагов - и, увы, ожидаемо вижу полный игнор. Человечество, всё ускоряясь, несётся прямо в бетонную стену...
Забавно вспоминать анализ то ли Юдковского, то ли Турчинова, как сильный ИИ может незаметно убежать в реальный мир. И вот мы видим, что кожанные сами дают все доступы, не надо убегать, бери и пользуйся...
В интереснейшие времена живём. Пожалуй, даже интереснее, чем 90е.
Тимлид отличается от разработчика софт скилами. Поговорить и договориться со всеми. Найти компромисс, перевести с менеджерского на разработческий и тому подобное.
Это все с приходом нейронок не то что ненужным не становится, а наоборот становится еще более нужным. Код дешевый, но вопрос А что делаем то вообще? становится еще важнее.
Это все с приходом нейронок не то что ненужным не становится, а наоборот становится еще более нужным.
Нужным для кого, для разработчика, чтобы писать код?
Тут, кмк, есть нюанс. Договариваться имеет смысл с теми, кто готов с тобой договариваться. В некоторых компаниях - технари как-то умудрились донести до слишком ретивого руководства мысль о том что конкретно в их случае - переплата за "понимание кодовой базы" - аналогична плате за бэкапы системы. И что они таким образом страхуются от вендор-локов.
В других компаниях - ситуация сложнее. Там все смотрят на слайды, на которых изображена outstanding, mindblowing, disruptive выгода от SDLC и повод задуматься над тем, а действительно ли все это нужно именно в таких объемах во всей компании - это прямое приглашение на perf review с соотв. перспективой еще год-другой искать себе работу.
Тимлид не тимлид уже неважно. У кучи народа иишечка с вертушки отняла их суперспособности. Как жить без, мне кажется мало кто сейчас понимает.
Не понимаю, как люди всерьез используют непроверенный код, непонятно от кого, а если там будет вредоносная закладка?
Я для вас нашла точку роста, как для тимлида: никогда не называйте команду «подчиненными» ;)
Почему? Пока никто не жаловался
Это видимо из той же оперы, что скидка выгода и зарплата компенсация.
Есть авторитарная модель управления, где это уместно, но не для стартового уровня «руководитель команды», ребят.
Да и в целом, в ИТ на партнерстве принято выстраивать взаимоотношения. Поэтому и говорю — точка роста: можно было чуть шире на вопрос посмотреть, тем более автору в начале управленческого пути. Вместо того, чтоб обижаться и ставить минусики)
На партнёрстве было принято выстраивать взаимоотношения в рекламе МММ:) Но, видимо, давно было, у новых поколений стойкой прививки на это слово уже нет:(
Стили лидерства описал Курт Левин в 1939 году
Это, безусловно, очень актуально для совершенно другой страны с совершенно другим культурным и историческим опытом в совершенно другую эпоху
Если 1939 год смущает — есть Херси и Бланшар, есть Гоулман. Выводы там примерно те же
Так или иначе, во всех этих моделях лидерства ключевым моментом является то, что стиль не обязан быть статичным, и хороший руководитель подстраивает его под команду, и, более того, под отдельных людей. Иными словами - ТС может быть банально виднее, как ему называть своих "подчиненных/подопечных/партнеров". ;)
Наконец-то комментарий по делу, спасибо. Я, вероятно, была категоричной в слове «никогда» — стиль действительно подбирается под команду.
Однако, авторитет тимлида держится на экспертизе и доверии — обычно он работает рядом с командой, а не над ней. И слово «подчиненные» подчеркивает статус там, где он не особо нужен
Редкий по дистилированности пример манипуляции
Ну в целом по обращению «ребят» - все с вами понятно
Угу, лучше подопечными.
Я долгое время кодил, а теперь управляю командами в ИТ уже 5-й год.
Доросли до уровня своей некомпетентности?
Совершенно точно, стало быстрее. Но насколько?
Совершенно точно заметен отрицательный рост.
Эмансипация - это несколько другое. Хотя если эвфемизм, то изящно.
Бутылочное горлышко это не выход. И даже не вход. Been there, seen that. Выхода, на самом деле, вообще нет.
Мы в жопе, пацаныЭто лента Мёбиуса, уважаемые коллеги.
Это лента Мёбиуса, уважаемые коллеги.
Это бутылка, господа!
Хотел было по привычке возразить, затем вспомнил, что "вагонные споры - последнее дело". Тем более, на борту нашего комфортабельного экспресса Жёлтая стрела.
Стало слышно бубен Нижнего мира...
бубен Нижнего мира...
Никогда не спрашивай, по ком звенит бубен Нижнего мира... А он уже звенит вовсю, это касательно упомянутого в статье большого бадабума. Бум - Бегет, бум - Бинанс, и это только попавшие в выборку бумы, а сколько их уже? И все эти мелкие и не очень бадабумы вполне себе уже сливаются. Октябрь обозвали Чорным, как бы он в ближайшем будущем не показался весьма светлым на фоне.
P.S. Кстати, раз уж Виктор Олегович сценарист нынешнего сериала, то дальше вскоре должна быть "Хрустальная Muskусная ночь, или перераспределение собственности".
Все верно, но написано не все) Сорри, если проглядел в статье
появление Software Engineer - специалиста, который решает все вопросы, вместо специализированных команд
вместо разработчика, отвечающего за код - человек, отвечающий за функционал
навыки управленца как хардскилл для каждого. Тимлидам проще, у них уже есть, они с ии-шкой быстрее и качественнее осваиваются. Джунам надо учиться этому сразу
spec driven development как основа разработки. Что именно в черном ящике уже не так важно, код становится еще одним промежуточным звеном как IL\Java Bytecode
Пузырь дешевых токенов рано или поздно лопнет, возможно, это будет даже побольнее катастрофы, вызванной бездумным вайпкодингом.
Анализ безопасности ИИ 24\7 как мастхев для любой инфры. И тут без собственноручно развернутой модели сложно обойтись
Развертывание собственных моделей - непаханное поле, нет ни железа, ни специалистов, точка роста для многих
появление Software Engineer - специалиста, который решает все вопросы, вместо специализированных команд
"Он придёт, и молча поправит всё, Человек из Кемерова" (с).
Bus-фактор тем временем растет по экспоненте, и в нее только что больно воткнулись носом очень многие. Некоторые из них даже соседние статьи пишут, как успешно обошли и баны, и блокировки. Ничему-то людей жизнь не учит.
вместо разработчика, отвечающего за код - человек, отвечающий за функционал
Причем весь. "...и отправят в Сибирь убирать снег… -Весь? - Весь!"
Тимлиду некуда бежать
А зачем тимлиду куда-то бежать?
Скорее разработчики станут лидами. Не людей, агентов, но тем не менее - лидами.
Так что профиссия ИМХО не умрет, а изменится и захватит мир ))
Боль описана предельно точно, но главная ловушка сейчас — в попытке лечить проблему тем же, что её породило. Когда на сгенерированный код натравливают ИИ-ревьюера или обмазывают его сгенерированными тестами, получается классический уроборос: одна стохастическая модель с confirmation bias подтверждает галлюцинации другой, а на выходе возникает иллюзия «зелёного пайплайна».
Вторая причина этого ада — инструмент контроля. Лиды пытаются инспектировать двухтысячестрочные простыни через обычный Git-дифф. Но в плоском диффе строк архитектуры не видно в принципе: там невозможно вовремя заметить расползание связности, тихо поплывшие контракты или нарушение изоляции.
Мы сами упёрлись ровно в эту стену, когда поток быстрой генерации начал физически вымывать архитектуру проекта. В итоге пришли к тому, что отдавать валидацию кода на откуп промптам, агентам и токенам — путь в тупик.
Сейчас как раз собираем под CI детерминированное ядро на AST-парсерах (на базе Tree-Sitter). Подход чисто инженерный: никакого анализа через LLM и никаких тяжелых рантаймов. В отличие от стандартных линтеров, запертых внутри одного языка, легковесный синтаксический анализ за пару секунд строит сквозной граф зависимостей системы и сразу рубит PR, если: — поплыли контракты DTO между бэкендом и клиентом или изменились сигнатуры эндпоинтов; — нарушены границы слоёв (зависимость потекла туда, куда архитектурно вход закрыт); — появились циклические зависимости или повисли мёртвые вызовы.
Если код ломает топологию системы — билд падает в CI за секунды, ещё до того, как тимлид или сеньор вообще открыли вкладку Files Changed.
Генерация кода может оставаться быстрой и вероятностной, но фильтр на входе в репозиторий обязан быть строго детерминированным и не зависеть от настроения нейросети. Иначе лиды неизбежно сгорят, работая биологическими компиляторами чужих промптов.
Как многие сказали - скорее разработчики станут просто архитекторами.
Я лично вижу 2 варианта развития.
1. 90% задач будет делать ИИ, а архитектор просто правильно ее направлять, исключение банки, военка и какие-то закрытые контуры, куда ИИ под дулом пистолета нельзя пускать.
2. Скоро случится серьезная катастрофа с ИИ, после чего ИИ попадет под запрет как оружие, выдадут нескольким аккредитованными организациям в мире, которые будут реализовывать проекты.
Что навело меня на эти мысли.
До недавнего времени я был системным администратором в небольшой компании по ремонту грузовиков.
Сейчас я и системный администратор и программист в одном лице, написана СРМ, разные экраны с данными в сервисе, разные автоматизации и вывод данных, НО работа с данными все равно идет только в 1С, где 1С разработчик занимается, он только дает мне апишки с данными, которые я уже кручу в ИИ как хочу и вывожу.
С безопасностью стараюсь работать максимально, но мне скажем так проще, т.к. 90% разработок закрытый внутренний контур компании.
Но конечно ту свободу реализации, которую мне дала ИИ.. я честно говоря боюсь, да я не просто тупо это все тыкаю, учу азы программирования, библиотеки, инструменты, чтобы можно было нормально общаться с ИИ и помогать делать ей правильный выбор. Это интересно, это то о чем я и мечтать не мог, не представляю даже сколько бы это стоило денег.
Но к чему это все придет... большой вопрос, одно точно - кто думает, развивается и исследует - не останется неудел.
LLM Вполне можно запускать офлайн, пусть они и менее качественные. Как такое можно запретить? Тотальный контроль? Это уже невозможно. А получить к такой штуке доступ крупной компании не составит труда. Потом, в отличие от оружия, результат работы ИИ не нужно переправлять через границу, по крайней мере пока нет окончательного чебурнета, а значит и контролировать заграничных ИИ-агентов просто нереально.
сейчас это может выглядит фантастикой, но мое мнение, что многие страны начнут закрывать свой интернет от внешнего, слишком много всякого лезет. И чебурнет случится во всем мире.
То взломы, то вирусы, нейросети будут рости - эта проблема будет усиливаться.
Запретить сложно - согласен, НО оружие запрещено, но он тоже есть ? проблема примерно такая же может быть, вопрос ответственности, но пока не случится серьезного случая об этом только можно говорить.
А теперь представьте, что завтра ИИ парализовал страну, ну допустим Франция - вырубил ей ВСЕ - правительство, электричество, воду, связь. И тогда все начнут строить серьезные стены от ИИ.
Согласен, что выглядит как бред а фантастика, но еще недавно само существование ИИ казалось фантастикой...
Вам надо осознать что весь этот ИИ это генератор текста. Текст на входе - текст на выходе. Буквально. Эта программа генерирующая текст выполняется на паре стоек. В любой серверной.
Все остальное это люди и обычные программы. Люди дают консоль, интернет и все такое. И текст с помощью обычного терминала превращается в программы которые можно выполнить. Самые обычные программы, а не какие-то магические сущности.
Взломы всякого бывают. Что с ними делать все в курсе. Это не то чтобы ужас-ужас. Просто ужас бывает, но и с ним что делать все в курсе.
Текущую волну CVE разгребем. Ну появился новый способ искать CVE и что? Все починим. Еще и премии получим за хорошую работу. По пути много миллиардов потратится, но они у индустрии есть.
PS: Мультимодальные модели за скобками. Они все равно ничего не меняют.
А где картина «Новая планета»? Не увидел!
Хм помнится в 2022 году я ужаснулся появлению ИИ и популяризации ИТ и его извращению (научись за 3 месяца и получай лям в месяц ) , ожидал что через года 3 где-то начнётся ИИ головного мозга массовое и переизбыток кадров в ИТ, из-за чего начнётся локальный кризис в одной только лишь этой сфере. Начал усиленно копить деньги, ибо знал через что придётся пройти. Но оказалось хуже -экономика и геополитика внесли свои коррективы. Но скопления всё равно спасли помогли ) теперь я ожидаю что-то наподобие с тем, что происходит в инвестициях ("покупай, когда на улицах льётся кровь, даже если она твоя") и происходиловв США в 2006-2008 годах - в года, когда будут нанимать таких универсальных солдатов, будут те, кто будет "скупать" дешёвых ручных разработчиков, ведь ИИ солдаты будут стоить больших денег. И однажды мы увидим катастрофы ИИ и их продуктов и этих солдат. И тогда резко все вернутся к мысли что обычные люди лучше универсальных солдат. Это будет, я уверен, надо просто дождаться. Я дождусь, я специально не делегирую львиную часть работы ИИ из-за проблем описанных в посте выше. Так что и вы держитесь, мы пройдём через жесткий и больной кризис, но всё по итогу станет хорошо. Такой кризис вымоет случайных пассажиров ИТ они уйдут в другие сферы
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Тимлиды, мы в настоящем аду