Comments 207
Хороший у автора свод того, о чем уже много писалось на Хабре (и не только на нём). Почти со всем нельзя не согласиться, есть только один "вкусный" момент, который хотелось бы видеть более раскрытым:
Деньги в этой истории просто переехали из графы «написать» в графу «жить с написанным»
Вот это ключевой вопрос, как по мне, и тут не всё так просто. Понимания какое во второй графе окажется количество денег пока нет, причем, даже для крупных компаний, активно ИИ в написание софта внедривших. А это как раз самое интересное - весь этот движ вокруг LLM пользователям-то доход принесёт? Или после схлопывания текущего пузыря цены на API (которые перестанут быть дотационными) придут к реальным значениям и тут-то станет ясно, что экономика у пользователей не сходится и надо возвращаться к написанию "ручками" почти всего, кроме самого простого?
"В этой истории" однажды появятся эмпирические графики, на которых можно будет видеть, от чего зависит реальный объём денег в "жить с написанным". Ключевыми параметрами этих графиков разумно иметь: 1) некий фактор понимания вайб-кодером (или компанией) при кодинге, что и как он кодит (включая объём и качество тестирования); 2) сложность задачи. Предположу что чем выше фактор 1 и чем ниже фактор 2, тем больше вероятность, что в "жить с этим" переедет всё же меньшее количество денег, чем были в "жить с написанным". Но есть большое ощущение, что "наоборот" будет чаще.
А это как раз самое интересное - весь этот движ вокруг LLM пользователям-то доход принесёт?
Да. Но после того как LLM уровня того же DeepSeek V4 Flash можно будет запускать локально. В целом с другими нейросетями это уже проходили.
Или после схлопывания текущего пузыря цены на API (которые перестанут быть дотационными) придут к реальным значениям и тут-то станет ясно, что экономика у пользователей не сходится и надо возвращаться к написанию “ручками” почти всего, кроме самого простого?
Никуда не денется, просто обычные пользователи будут сжигать такое количество токенов, на получение сомнительного качества продукта, что будет дешевле ходить к профи. Если что аналогичная вещь произошла уже у тех же дизайнеров и прочих людей которые занимаются графикой. Они что вымерли как обещали несколько лет назад в связи с развитием сетей которые умеют генерировать картинки? Что-то не наблюдается. А вот инструменты дополнительные получили.
после того как LLM уровня того же DeepSeek V4 Flash можно будет запускать локально
Я с Вами согласен, вот только сколько это стоить должно, чтобы доход приносить?? Сейчас такое в несколько миллионов обойдется без квантования. И это при условии, что новые версии локальных моделей платными не станут (не утверждаю, что станут. Просто как вариант).
будет дешевле ходить к профи
И тут Вы правы, но я говорю про весь рынок, а не только про самописные поделки. А профи-то будет выгодно сложные системы создавать с помощью LLМ, когда они с дотации уйдут? Вот в этом я не уверен совсем - об этом мой последний абзац (хотя и не отрицаю, что всё же будет выгодно).
аналогичная вещь произошла уже у тех же дизайнеров и прочих людей которые занимаются графикой
Спасибо, удивили хорошим (вот почему у Вас карма большая и растет:-)). Я думал, что вымирают потихоньку. Оказалось, что нет. Это радует.
Я с Вами согласен, вот только сколько это стоить должно, чтобы доход приносить??
Смотрите новые машины с RTX Spark и Mac Mini новые. Основной момент в том что по факту вам не нужна именно видеокарта как ускоритель для ИИ. Видеокарта она просто подходит для. Достичь схожего эффекта можно и используя обычную а не игровую видеопамять в связке с ускорителем. А тут я думаю будет много всего выходить да и обычную память все еще дешевле наращивать чем игровую.
А профи-то будет выгодно сложные системы создавать с помощью LLМ, когда они с дотации уйдут?
Конечно. Момент в том что у профи LLM снимает рутину. Плюс можно будет как уже указывалось выше покупать личные вычислительные мощности и это будет дешевле в долгой перспективе.
Я думал, что вымирают потихоньку.
Ну с ними получилось как с художниками. До появления фотографии были орды художников которые занимались тем что рисовали портреты. С появлением фотографии художники никуда не делись, просто их вытеснили фотографы. Сейчас причем фотограф хороший тоже отдельная профессия. Так же и у дизайнеров и художников.
Смотрите новые машины с RTX Spark и Mac Mini новые.
О, круто, спасибо! Очень интересно. Почитаю, как это всё работает. Для полноценного запуска LLM вышк, правда, пара RTX Spark нужна, и это явно больше миллиона рублей (что дорого для частного лица). Но в разы дешевле варианта с GPU.
Видеокарта она просто подходит для.
Допишите фразу, пожалуйста. Возможно, тоже что-то особо в ней ценное:-)?
Конечно. ...и это будет дешевле в долгой перспективе.
У меня вопрос был риторический. У Вас в ответе уже Ваша вера. Я бы хотел на это надеяться, но надо дождаться "момента истины".
Почитаю, как это всё работает. Для полноценного запуска LLM вышк, правда, пара RTX Spark нужна, и это явно больше миллиона рублей (что дорого для частного лица). Но в разы дешевле варианта с GPU.
Ну это первые реализации. Дальше будет лучше и дешевле. Попроще сетки на одном RTX Spark можно гонять как и на минке том же.
Допишите фразу, пожалуйста. Возможно, тоже что-то особо в ней ценное
Просто подходит для LLM как до этого подходила под другие типы вычислений. Поскольку у нас есть уже LLM и с ней плюс минус понятно как запускать, можно сделать более сносный ускоритель. Это как до этого делали ускорители для сеток которые распознают видео к примеру.
С появлением фотографии художники никуда не делись, просто их вытеснили фотографы.
Это, буквально, два противоречащих друг-другу утверждения
Как и везде, разные есть ситуации. Высококлассные дизайнеры никуда не делись, и программистам место тоже найдется. Но если мне нужна картинка для презентации, а из "тырнета" я ее взять не могу из-за копирайта (да-да, и такое тоже есть), то сгенерированная картинка вполне себе спасает.
Стал ли бы я обращаться за этим к профи? Нет. Обошелся бы без картинки, что и делал многие годы.Но с картинкой - лучше.
А вот к делателям презентаций я не пойду, хотя презентации регулярно нужны. Причина проста: с PowerPoint я могу делать это вполне пристойно, и никаких доп. расходов не несу - даже наоборот: объяснять кому-то другому, что мне надо, было бы в разы дольше и дороже, чем сделать самому.
Вот этот момент, по-моему, часто не учитывается: то, что написание и согласование техзадания тоже стоит денег. Созданный моделью почти бесплатный прототип может помочь неслабо сэкономить именно на этом.
Оговорюсь: именно тогда, когда в этом ТЗ есть необходимость, оно и помогает. Ибо без прототипа ТЗ нередко оказывается, скажу мягко, не совсем тем, что ожидают увидеть от продукта. Если, конечно, это не сто миллионов первый сайт для магазина.
Вот этот момент, по-моему, часто не учитывается: то, что написание и согласование техзадания тоже стоит денег. Созданный моделью почти бесплатный прототип может помочь неслабо сэкономить именно на этом.
Ну дак это сформулировать надо. Вы не можете нейросети что-то намычать и она вам хоп сделает хороший прототип. Собственно те программисты которые умеют переводить из языка бизнеса в язык понятный другим программистам, больше всех и выигрывают. Потому что конечных программистов могут вынуть. Если вы мне скажете дак можно же вот этого программиста вынуть! Можно но не везде и результат будет ровно такой же как вместо такого программиста сунуть тех кто не понимает язык бизнеса.
Ибо без прототипа ТЗ нередко оказывается, скажу мягко, не совсем тем, что ожидают увидеть от продукта.
Вы думаете зачем agile придумали?
Если разработчик понимает архитектуру, сетка действительно экономит пару часов на рутине. Беда начинается, когда кодит человек без базы и принимает все диффы вслепую
Именно так, например есть какой то класс, не важно что он делает и у него есть методы Sava/Load в бинарный поток, хмл, джейсон, да куда угодно, ИИ позволяет просто эти рутинные операции взять на себя, сериализация/десериализация, покрытия всего этого тестами. Так же можно написать часть функционала, задать скелет и дать задачу ИИ дописать в рамках созданного шаблона и т.д. И тут ИИ прям сильно помогает, а если сделать так, напиши мне 3D отображение геоданных на С++, в этом случае ИИ конечно нагенерит миллионы строк кода в которых ни кто ни когда не будет разбираться.
К слову, нам сеточки сгенерили полностью OpenGL win+linux 2D движок с достаточно специфическими фичами (для примера одной из: воспроизведение видео с помощью VLC) + частично 3D. В код вникать частично пришлось. Но помогли прям очень-очень сильно. В нашем случае получилось не +20%, а видимо ближе к +500% по скорости разработки. Я просто предыдущих несколько движков делал (DirectX), то примерно в курсе по времени. OpenGL при этом до сеточек я вообще не знал, ни разу за 20+ лет не использовал, но вот пришлось. Язык, правда, не C++, Delphi. По качеству генерации: ошибок сетей было минимум, почти 80% - свои, во время интеграции :) Генерировали 2D почти полностью бесплатные сеточки. 3D Клауди отдали.
Я вот сейчас на вулкан перевожу софтварный 2D/3D рендер для GIS приложений, и да согласен ускорение на больше чем 100%, и расход токенов не большой, но скорее всего потому что идет разработка по принципу, я сделал интерфейсы, начал часть реализации классов, и прошу клода закончить плюс написать тесты, где тоже высокоурвонево говорю, что я хочу что бы было протестированно
Я о том, что когда эта сетка подорожает, то не окажется ли эта пара часов такой дорогой, что будет проще самому писать?
Сомнительно что американские сеточки заметно подорожают. Скорее всего инференс удешевится на порядок со временем благодаря оптимизации харда и софта и все останется примерно на том же уровне. Китайские могут подорожать и уже бывало. Так как у них пока демпинговые цены, которых думаю нереально поддерживать на долгосроке.
Сомнительно что американские сеточки заметно подорожают.
В этом как раз пока сомневаться поводов нет.
инференс удешевится
Но ведь сами вендоры любят утверждать, что инференс у них и так профитный, однако ж пока тренд только к увеличению стоимости.
на порядок со временем благодаря оптимизации харда и софта
Эти оптимизации и так применяются в софте, что касается железа: а за счёт чего ждать оптимизации? AI расскажет, как обмануть законы термодинамики? На порядок (!) можно удешевить инференс, разве что намертво забив веса в чипы, это сразу лишает возможности на ходу тюнинговать модель. Едва ли фронтирам такое подойдёт.
В конце концов, раз делается ставка на оптимизацию на уровне железа, зачем контрактуются на поставки чипов Nvidia?
На порядок (!) можно удешевить инференс, разве что намертво забив веса в чипы, это сразу лишает возможности на ходу тюнинговать модель. Едва ли фронтирам такое подойдёт.
Вся история компьютерной (впрочем не только) техники говорит о простой тенденции: всё со временем улучшается. Вчера БЭСМ считался пиком технологий, сегодня у нас почти у каждого в кармане железяка сильно лучше старого аппарата. Я почти уверен что со временем первое желез и софт реально работающий будем еще поминать с улыбкой, как сейчас БЭСМ.
всё со временем улучшается
Закон Мура уже не работает. У улучшения тоже может возникнуть предел.
Дело в том, что LLM построены поверх существующих технологий. Улучшения и так идут, но они и близко не про удешевление на порядок. Верить можно во что угодно, однако я предпочитаю смотреть на факты. Пока ничего лучше забивания весов в чипы для удешевления не придумано. И это только инференс, а что делать с дообучением моделей? А обслуживание и содержание дата-центров? И ещё не стоит забывать, что ценник на пользование LLM изначально занижен донельзя, поэтому даже существенное снижение стоимости их работы не означает остановку роста цены. Венчурные деньги не могут литься вечно. А внедрение LLM не продемонстрировало каких-то невероятных профитов, способных оправдать конские затраты.
Я не сомневаюсь, что технология никуда не денется, она вполне может быть полезной в различных сферах, но не в том формате, в котором её пихают повсюду. Это не сходится с реальностью.
Хороший у автора свод того, о чем уже много писалось на Хабре
Да тут те же самые логические ошибки
Проблема в том, что синьоры вырастают из тех самых джунов, которые несколько лет писали скучный код, роняли прод и получали за это по шапке, и если этот конвейер сейчас остановить, то лет через пять-семь читать и чинить весь сгенерированный сегодня код будет просто некому.
Ну вот опять та же песня...
Да не нужны новые джуны IT индустрии!
Знаю сейчас опять коммент заминусят (неудобная правда для тех кто зарабатывает на вайтишниках), но, блин, сами подумайте, уже сейчас переизбыток кадров, а ИИ только набирает обороты
На ближайшие несколько десятков лет тех специалистов которые выросли до эпохи ИИ и реально умеют кодить хватит сполна, скорее всего даже им работы не хватит - вот такая цена автоматизации
Какой смысл в новых джунах, если уже сейчас их некуда пристроить (а скоро и мидлов некуда будет девать)
Горшочек, не вари!
Да не нужны новые джуны IT индустрии!
Да нужны. Текущая ллм шиза обращовалась на фоне хайпа, созданным продавцами лопат.В будущем будет такое количество нагенеренного проблемного нейрослопа, что людей не хватит все это разгребать. Пару раз придут к спецам с горой мусора, получат оффер переписать все с нуля и тогда начнут возвращаться к нормальной работе. А не "один мидл работающий за 10х и не читающий дифы".
В будущем будет такое количество нагенеренного проблемного нейрослопа,
Вот как раз таки джуны только и могут что генерить нейрослоп
Потому что выросли в эпоху ИИ, и уже в школе/универе только копируют из нейросетки
А зачем им напрягаться, кодить самим, когда лабы и контесты может написать ИИ?
Не будут они ваши дифы читать))
Просто как обычно нейросетке всё скормят, а то что она выплюнет - вам
Кто что будет читать и зачем порешает рынок
порешает рынок
Вот тут согласен с вами
И как видите джунов уже перестали нанимать - рынок порешал
И я понимаю почему: если джун просто копирует ответ нейросети и выдаёт за свой - то дешевле нанять нейросеть за 20$ (без прослойки в виде джуна)
Тем более джун всё равно не в состоянии проверить корректность этого ответа, в отличии от человека который много лет назад делал это все руками без ИИ
Причем тут сейчас мы про будущее говорим. Сейчас переизбыток экспертов и раздутый ллм хайп. Сегодня "ИИ джуны" не обучаются экспертизе, завтра экспертов станет сильно меньше, на них появится спрос конкуренция и придут обратно к джунам.
завтра экспертов станет сильно меньше
Так эксперты не уйдут ещё лет 30 со сцены
(им сейчас по 30-35 лет, и на пенсию явно никто не собирается)
А через это время вообще всё поменяется
Так а каком будущем мы говорим?
Если на ближайшие 30 лет джуны не понадобятся, а дальше может и IT уже не будет
Я понял, экспертов на 30 лет вперед нарожали новые не нужны будут… Ну посмотрим.
Ну, скажем, продавцы лопат решат что пора возвращать деньги инвесторам. И окажется что есть куча мест где человек-программист дешевле.
К тому времени у всех уже будут собственные лопаты (локальные LLM на личных ноутбуках)
И по миллиону баксов в кармане!
Самому не смешно?
Просто лопаты подорожают
Продавцы стремительно устаревающего железа одобряют ваш выбор ;) главное, покупайте сейчас, а экономить будете позже.
Джуны и раньше не приносили прибыли компаниям. Их нанимали для того, чтобы выращивать себе мидлов и сеньоров. Появление ИИ тут мало что меняет. Грамотных спецов не хватает и сейчас, и дальше спрос на них будет только расти, учитывая количество нагенеренного мусора, который надо будет чинить и поддерживать. Проблема только с тем, как прикрепить человека к своей компании, чтобы он не ушел от вас, набрав опыт, туда, где больше платят. Вангую появление системы по типу образовательного кредита, когда тебя сначала пару лет учат, а потом ты обязан отработать еще несколько лет, чтобы отбить затраты на свое обучение и принести прибыль.
сначала пару лет учат, а потом ты обязан отработать еще несколько лет
А это не перекладывание бизнес-рисков на наёмных работников?
А это не перекладывание бизнес-рисков на наёмных работников?
А бизнес и не перекладывает, бизнес - нанимает сразу синьора и получает его экспертизу по фиксированному прайсу
А стажёры хитрые - хотят получить коммерческий опыт и уйти на место получше
А то что компания при этом отвлекала действующих сотрудников от работы чтобы учить этого стажёра и тратила ресурсы - ему пофиг...
А компании значит не хитрые - хотят нифига не вкладываться в воспроизводство кадров, а сразу брать готовую экспертизу, которую сформировал за свой счёт кто-то другой?
А компании значит не хитрые
Компании платят зарплату за работу, имеют право выбирать кого нанимать
хотят нифига не вкладываться в воспроизводство кадров
В чужое воспроизводство - не хотят.
Пока стажёр после обучения может уйти работать к конкурентам - это не выгодно для компании
которую сформировал за свой счёт кто-то другой
Ну это их выбор, хотели тратить ресурсы на обучение сотрудников для других компаний - их право
А вариант стать тем самым местом получше не рассматривается? Если не получается платить рыночную зарплату, то с бизнесом что-то не так. А если конкуренты специально переманивают чужих работников с коммерческим опытом, то может это конкуренты хитрые?
Так уже существуют срочные трудовые договора. Во многих юрисдикциях они ограничены правда сверху, например, пятью годами, но есть и более благоприятные юрисдикции с менее жёсткими ограничениями.
Государство уже платит (льготами) за стажировки и найм джунов
Те, кто выросли в эпоху языков высокого уровня, уже не понимают асемблер. Те, кто выросли в эпоху языков с автоматическим управлением памяти, уже не понимают как с ней работать. Те, кто…
Те, кто выросли в эпоху языков высокого уровня, уже не понимают асемблер
И тем не менее они работают на этих высокоуровневых языках, сами пишут код
А поколение выросшее в эпоху ИИ вместо работы просто запускает нейросетку и выдаёт её работу за свою, там и зачем к этой нейросетке человек при таком подходе?
Вкатуны с курсов может и не понимают. А в университетах до сих пор преподается и ассемблер, и Си и архитектура компьютера и алгоритмы. И все это спрашивают на собеседованиях на серьезные вакансии.
А в университетах до сих пор преподается ...
А знаете как студенты сдают эти предметы в эпоху ИИ?
За них тупо всё нейросетка делает, они 4 года дурака валяют в этих универах
И все это спрашивают на собеседованиях
Им ментор в наушник правильные ответы надиктовывает, либо тот же ИИ на экране пишет
А ещё в резюме возраст ставят на несколько лет старше, что выясняется только при оформлении когда уже оффер получили
Сейчас нанять джуна (который выдает себя за синьора) - это значит проверять его нейрослоп что ему нейросетка выдала
А преподы в нормальных вузах получается - дураки, не проверяют нейрослопы, не общаются со студентами на экзаменах, чекая, насколько усвоен материал. В моём вузе такой "роскоши" не было, кто вообще ничерта не делал и ни бе ни ме - отваливались на втором-третьем семестре. Да, бывало, покупали пару курсовых с рук или стреляли лабы у старшаков, но разбирались в том что делали, вникали в предметную область, даже в философию. А в шарагах и в те времена просто давали на лапу и покупали дипломы вместе с защитами.
Все приложения, позволяющие с помощью технологии блокчейн оставлять распределённые комментарии к любой ссылке, находятся в зачаточном состоянии.
Я могу бесконечно приводить примеры того, что ещё не написано.
с помощью технологии блокчейн оставлять распределённые комментарии к любой ссылке
Где оно храниться будет? Миллионы блокчейнов в миллионах копий довольно быстро забьют всё доступное распределённое место, и вся эта красота схлопнется
А где у меня написано, что это это простая задача? Это как раз сложнейшая задача, которая ещё не решена.
А почему вы решили что эта задача стоит того чтобы ее решали?
Ибо очень плохо, что нельзя оставить отзыв к каждому ресурсу в интернете, даже если автор контента или владелец платформы этого не хочет. Вы думаете, что одному мне не нравится, что, например, на ютубе отменили дизлайки?
Для распространенных броузеров уже было расширение которое добавляло комментарии к любому ресурсу. Выпилили по результатам жалоб владельцев ресурсов, так как без модерации там творилось всякое неудобное некоторым, а модерация стоит денег, которых без монетизации взять неоткуда.
Допустим, мы перенесем эти комментарии в блокчейн, и даже сделаем там умное шардирование, чтобы вы не хранили то что с большой вероятностью не будет вами прочитано, придумаем какую-то идею монетизации, которая оплатит минимальные расходы хранения (это совсем немного по нынешним временам).
Будет ли это кому-то нужно?
Из того, что владельцы ресурсов жаловались, прямо следует, что этим кто-то пользовался, то есть это кому-то нужно.
Как раз главный смысл в том, чтобы владельцы ресурсов не могли удалить или отключить то, что им неудобно, но удобно пользователям.
Смысл владения таким ресурсом непонятен. Какой то умственный лишенец опубликует что то недозволенное - на неприятные вопросы кто отвечать будет?
Ну и даже если какой то гений напишет что то толковое - никто не прочитает, потому что гениев мало, а дураков много.
на неприятные вопросы кто отвечать будет?
А какое отношение к владельцу ресурса имеет ответственность за то, как ведётся обсуждение ресурса на какому-то стороннем сервисе?
никто не прочитает, потому что гениев мало, а дураков много
Дураки это приложение установят в самую последнюю очередь. Будет естественная фильтрация от дураков, как в раннем интернете.
Если вы про ответственность владельца сервиса комментариев к любому ресурсу, то владельца нет, ибо сервис распределённый. Команда разработчиков просто пишет ПО, но никаких серверов, поддерживающих работу сети, у разработчиков нет. Да, тут инвесторы, ожидающие суперприбыли за счёт полумонопольного контроля над информационной инфраструктурой, начинают зевать.
Отвечают за контент сами пользователи. Можно, например, сделать кнопку для каждого комментария “Транслировать дальше”. Кто нажал, к тому и вопросы. Если каждый опрашивает по сотне пиров вокруг, то 10% сознательных пользователей хватит, чтобы полезные комментарии устойчиво распространялись, даже если кто-то не жмёт кнопку из-за несовпадения взглядов с содержимым комментария.
На ближайшие несколько десятков лет тех специалистов которые выросли до эпохи ИИ и реально умеют кодить хватит сполна, скорее всего даже им работы не хватит - вот такая цена автоматизации
Вы исходите из предположения о стабильности спроса при падении цены разработки. Такое предположение не подтверждается ни экономической историей в целом (см. парадокс Джевонса), ни историей индустрии ПО (сравните количество разработчиков во времена перфокарт и сегодня) в частности.
историей индустрии ПО
А в истории индустрии ПО было ИИ?
при падении цены разработки
Вот именно это сейчас и происходит из-за ИИ, поэтому работы на всех айтишников не хватает
А в истории индустрии ПО было ИИ?
В истории были:
переход на языки высокого уровня
переход на языки с управлением памятью, совпавший с переходом на персоналки
Оба эти перехода уронили цену вычислений в целом и разработки в частности в разы и даже на порядки. Оба эти перехода привели к взрывному росту спроса на труд разработчиков. Почему сейчас должно быть иначе?
Некорректное сравнение
В ваших случаях менялись технологии, но для написания кода использовался человек
В случае с ИИ человек не пишет, а проверяет (в силу своих компетенций и опыта)
В ваших случаях менялись технологии, но для написания кода использовался человек
Мои друзья gcc, rustc и python оскорблены.
В случае с ИИ человек не пишет, а проверяет (в силу своих компетенций и опыта)
Тоже самое. Я даю инструкцию gcc, тот чего-то шаманит, я проверяю результат тестами. Чем в данной схеме gcc отличается от клода?
Тем, что зпдачу нейронке может дать заказчик напрямую без программиста, а с gcc работает программист.
зпдачу нейронке может дать заказчик напрямую без программиста
Сделай хорошо
Как заказчик, не разбирающийся в программировании, проверит, что сделано именно то, что нужно ? К кому он побежит, когда у него сольют базу с клиентами через дыру, оставленную нейронкой, обученной на хеллоуворлдах с гитхаба ? Не забываем о том, что код серьезных профессиональных продуктов обычно закрыт, а нейронки обучаются на поделках студентов и любителей, выложенных в открытый доступ.
На коболе тоже заказчик может напрямую писать. И на сиквеле. И ещё на 100500 no-code/low-code платформ. Однако же заказчик этого не делает почему-то. Угадайте почему.
GCC даёт гарантированный результат
В случае с ИИ человек не пишет, а проверяет (в силу своих компетенций и опыта)
Ну это вы зря. Еще как пишет. И пишет он постановку задачи. Плюс момент еще есть что все ухищрения эти типа давайте сделаем оркестрацию агентов, давайте пропишем скиллы, давайте agents.md будем писать, давайте MCP будем давать им это все из-за нехватки окна контекста и банального слопа. Вы не можете написать агенту сделай мне CRM систему. Он просто сделает ерунду. Вам приходится заниматься или довольно детальным изложением задачи или диалогом с ИИ в котором он предлагает решения. Но решения помимо тех что в нем уже есть он придумать не может. А значит это придется придумывать вам. Теперь скажите ка мне если вы не программист вы сможете учитывая контекст и технические ограничения это решить качественно? Да нет конечно же.
В итоге у программистов в очередной раз вырастет производительность у одной единицы, программисты не будут делать скучные простыни кода а больше будут на задаче сосредоточены. Как итог у вас системы станут стоит дешевле, а раз станут дешевле много что не автоматизировалось будет автоматизироваться. Аналогично языки высокого уровня стали позволять решать более сложные задачи так-как производительность и доступные абстракции выросли.
ИИ только набирает обороты
А вот и рекламная агитка ИИ-компаний подъехала, которым выгодно, чтобы вы так думали.
ИИ не "набирает обороты", а уже вот-вот упрётся в потолок
ИИ не "набирает обороты", а уже вот-вот упрётся в потолок
Уже пару лет это слышу, а потолка так и не достигли))
ИИ хорош когда знаешь правильный ответ, но его лень писать руками. Показываешь ошибку в логе - он грепает исходники, находит то самое место, выдает заключение - дык памяти не хватает. Я бы сам нашел, тольк полдня копаться надо. Правда его рекомендации по уменьшению памяти это пц.
А когда ответ неизвестен - тут весело ;) Снял лог анализатором, показываю - расшифруй. Оно такое: это uart! Я ему: нет, не похоже. Оно: да, вы совершенно правы, это uart на 2500 бод, это стандартная скорость в микроконтроллерах. Хотите напишу код для ардуино? Чсх код хороший, годный. Скомпилируется без ошипок. Но не под ту задачу ;)
ИИ не "набирает обороты", а уже вот-вот упрётся в потолок
Тут вот в чём дело...
неудобная правда
Вижу только громкие, ничем не подкреплённые заявления.
весь этот движ вокруг LLM пользователям-то доход принесёт?
Каким именно пользователям?
Все ИТ это не про доход, а про затраты реального бизнеса (ака бухгалтерия). Ну разве что игровая и развлекательная индустрия отдельно.
Под доходом я имею в виду и следствие сокращения затрат (выручка прежняя, затраты ака бухгалтерия упали => доход вырос).
И в первую очередь меня интересуют крупные компании, разрабатывающие ПО. Это наиболее чистый пример.
Какая-то искажённая логика.
Если её следовать то добыча нефти для ВИНК - зараты.
А если распилили ВИНК на "добытчиков" и "переработчиков" и "заправщиков" - сразу стало доходом.
Не надо так.
Это нормальная логика финансового и управленческого анализа:-) И да, сама по себе добыча нефти - затраты ( стоимость оборудования для добычи, зарплаты и т.д.). А выручка - что за неё заплатили. А прибыль (доход в данном контексте) = выручка минус затраты.
На любой P&L посмотрите.
Распил ВИНК тут никак не повлияет на ситуацию.
Высокотехнологичный процессы производства требуют ПО. Это не только SCADA и МЕS системы, но специалиризованное ПО. Без него производство невозможно и порой по сложности это намного сложнее в разработке и поддержке чем "перекладывание JSONовЭ, сайтов и проч.
Огромное количество компаний зарабатывает на продаже софта. Посмотрите на самые богатые компании - Google, Apple, Microsoft. Это для вас не реальный бизнес ?
Статья права в главном: ИИ штампует код быстрее, чем его успевают читать, и безопасность с техдолгом от этого сами не рассосутся. Не убеждает другое: что дальше будет только хуже. Автор исходит из того, что генерация дешевеет, а проверка нет. Но проверка тоже код, и ИИ в ней уже полезен.
Проще всего это видно в безопасности. В этом году Anthropic заявила, что её модели нашли сотни, а потом и тысячи серьёзных уязвимостей в ОС, браузерах и open source, включая баги возрастом в десятилетия. Google раньше показал то же на SQLite. Цифры идут от разработчика модели, их стоит перепроверять, но направление ясно: искать дефекты стало дешевле.
Настоящая проблема в другом. Находить дешевле, чем чинить: основная часть найденного до сих пор не исправлена. В open source, где ревьюят в свободное время, этот разрыв бьёт сильнее всего. И злоумышленникам ИИ помогает так же, Google уже зафиксировал первый эксплойт, сделанный с его помощью.
И последнее. Статья в итоге отвечает на вопрос «нужны ли настоящие специалисты», и ответ «да» выглядит логично. Но мне интереснее другой вопрос: как изменится сама разработка, когда проверка и сопровождение тоже станут отчасти машинными. Я не говорю, что разработчики исчезнут. Но разговор о том, чем именно будет заниматься специалист через пару лет, полезнее, чем подтверждение того, что он нужен. Текст на текущих ограничениях технологии такой разговор не построит.
чем именно будет заниматься специалист через пару лет
Полагаю, будет сильно зависеть от реальной экономики после прекращения "дотирования API". В худшем случае (= "LLM очень дорог") он будет почти таким, как сейчас. В хорошем случае он будет объединять в себе, как минимум, аналитика, кодера и тестировщика. Желательно к этой триаде архитектора добавить и DevOps. Правда и стоить он должен дороже.
Это уже видно сейчас. Границы между ролями размываются: аналитикой всё чаще занимаются не только аналитики, а продакты и маркетологи, которые подтягивают навыки с помощью ИИ, а на уровне big tech всё чаще говорят просто «builder». Поэтому ваш «хороший случай» с триадой выглядит скорее как текущий тренд, чем как сценарий на потом. От цены API он зависит меньше, чем от того, насколько дешёвым стал переход от идеи к работающему прототипу. А вот архитектора и DevOps я бы в эту триаду добавлял с оговоркой: проверка и эксплуатация пока хуже всего поддаются автоматизации.
Но проверка тоже код, и ИИ в ней уже полезен.
Не критики ради, а просто размышлений для... Подумалось тут: ИИ пишет код, ИИ (может быть другой) проверяет, еще один ИИ проверяет проверяющего, еще один - снова проверяет для успокоения, и т.д. Очень похоже на финансовые пузыри, которые привели к кризису 2008 года (отсылаю к фильму "Игра на понижение", там все хорошо показано): на живые деньги вешается долг, на долг - дериватив, на дериватив - еще один дериватив и т.д. Использование ИИ стоит денег: код - проверка - перепроверка - оптимизация - проверка оптимизации - перепроверка оптимизации... Может разработчикам всяких GPT даже выгодно, что их продукция глючит, врет и в связи с этим требует проверок и перепроверок?..
Аналогия полезная, и в части я с ней согласен: если «проверка» это просто вторая модель, оценивающая первую, цепочка легко превращается в самоподтверждение. Но у кода есть то, чего нет у деривативов: независимый якорь. Тесты, компилятор, фаззер, работающий эксплойт дают ответ, который не зависит от мнения модели. Поэтому полезна проверка, привязанная к исполнению, а не «ИИ проверяет ИИ» как таковое. Вопрос тогда в том, сколько такой привязанной проверки удастся автоматизировать.
Нет, просто когда модель пишет крупное решение, у неё замыливается глаз внимание, и она может где-то не додумать, накосячить. А если потом ту же модель запустить с чистым контекстом для код-ревью, то она найдёт свои недочёты и исправит.
Очень похоже на финансовые пузыри, которые привели к кризису 2008 года
Верно. Только в 2008 году было очень много мелких инвесторов и обычных людей, которые разорились. В том же фильме показано, что крупняку пофигу, им и рейтинги нарисуют.
А сейчас в этом пузыре задействованы ну очень большие деньги и как раз именно те крупные компании и даже гос-во. Поэтому этот пузырь до сих пор и не лопнул и хз, что будет дальше.
Починить уязвимость почти всегда сложнее, чем просто подсветить кусок синтаксиса. Нужно проверить, не сломает ли фикс обратную совместимость у пары сотен клиентов. Без нормальных интеграционных тестов туда вообще страшно лезть
Так чинить надо сразу после написания, а не после внедрения.
Надо сразу делать хорошо.
И все мясные разработчики так умеют? Если да, то откуда даже в продуктах Гугла, в том же Хроме, сотни ошибок управления памятью, многопоточности и CVE?
гугл давно уже не торт, я бы даже сказал 10+ лет как
да и в целом FAANG хорош только с реально высокими нагрузками и то есть пространство для дискусий, там где можно забить забивают
мем мемов актуален до сих пор - гугл-анализатор доступности ресурса никогда не показывал даже 80% для гугл-ресурсов (некоторые ниже 50%)
людей что сразу продумывают основные моменты довольно мало в процентном соотношении в IT. Зато больше 90% это те кто пришел за деньгами и им в целом вообще пофиг что там в коде и как этим будут пользоваться. Инвесторы же идут за короткими сверхприбылями и им тоже плоскопаралельно качество и долгосрочные проблемы.
Так эти проблемы везде, не только в Гугле. Если провести конкурс по внимательности при написании кода между кожаным экспертом и нейронкой победит нейронка.
если провести конкурс между закладыванием архитектуры и далее между кожаным и нейронкой то даже с учетом невероятной скорости и живых проверок нейронка все равно будет позади
нейросети это инструмент а не костыль, он расширяет возможности тех кто может обойтись и без нейронки
но для тех кому нейросеть это костыль - они зависают в собственном пузыре некомпетентности и приумножение сгорающих токенов позволяет закрывать дыры пока разрыв не станет слишком явный, который не закроет уже доступный лимит токенов на единицу времени
если провести конкурс между закладыванием архитектуры и далее между кожаным и нейронкой то даже с учетом невероятной скорости и живых проверок нейронка все равно будет позади
Согласен. Выбирать способы написания программ с нуля они очень плохо умеют. Им обязательно надо ставить ограничения, говорить какие библиотеки юзать для того или иного, закладывать архитектуру. Иначе они такого наворотят...
сотни, а потом и тысячи серьёзных уязвимостей
Большая часть из которых ложноположительные, либо задокументированы, об этом же буквально в тексте и писалось. А вам потом всё равно придётся тратить время на то, чтобы разобраться. Я не спорю что в ревью модели хороши, но слепо верить опасная затея, речь и про тех кто ИИ продаёт с их вау-отчётами, и про выхлоп самой ИИ. Да даже старые добрые статические анализаторы мега полезные, но их отчёты всё равно приходится разбирать и откидывать ложноположительные срабатывания. И это при том надо держать в голове что ложноотрицательные результаты есть и там и там, только в случае со статическим анализатором это ограничения системы, а у нейронок это нормальное поведение.
А с выводом согласен, чинить всегда дольше и дороже.
Цена написания упала почти до нуля, и это видно любому, кто хоть раз просил чат-бота набросать скрипт для переименования фоток с отпуска
Забавно, конечно, оценивать "цену написания кода" на основе того, сколько стоит набросать скрипт для переименования фоток с отпуска.
Тот скрипт раньше стоил 0 денег, и сейчас столько же, + инфляция.
скрипт, который может понять, что вот тут я, вот тут медведь, а тут красивое дерево, да и тэги прописать - дорогого бы стоил.
Код стоит затраченного времени. Если нет навыков - это сравнение между нанять (или сделать всё руками) и бесплатно завайбкодить в чате. Если есть навыки - это разница несколько раз по времени.
Тут скорее пример для наглядности, чтобы порог входа показать на пальцах
Порог входа во что? В профессиональное программирование? Или в автоматизацию переименования фоток у себя на компе?)
Стоит разделять профессиональный коммерческий код и любительские проекты для личного использования. Автор пишет и делает выводы про "код" в целом, но примеры приводит про сортировку фоток.
5 баллов Автору! Добавь ещё и обработку физического мира когда вместо подачи кислорода больному код его перекроет окончательно
Как обстоит дело с применением ИИ в тестировании?
Забыли только посчитать, сколько человеко-часов уходит на объяснение сетке контекста в старом легаси с десятью зависимостями
Скрипт, который один раз переименует три тысячи фоток с телефона, табличка с формулами для семейного бюджета, бот, который присылает в чат расписание электричек, и прототип, который нужно показать инвестору в четверг и выбросить в пятницу, обходятся ровно в те копейки, которые на них потратили, потому что у них нет будущего и владеть ими никому не придется.
Это называется мусор. Разработка тут точно не причём.
Для таких вещей нейросети стали настоящим подарком, и человек, который раньше даже не пытался автоматизировать свою рутину, теперь делает это походя, где-то между чаем и очередной серией сериала. Сломалось, попросил переписать, сломалось опять, махнул рукой, и ничего страшного не случилось, потому что через месяц эта штукенция все равно никому бы не понадобилась.
Может и начинать не нужно было? Какая-то когнитивная деградация, вместо прозрачности или создания чего-то существенного, делать какую-то фигню и потом выкидывать.
Как-то вы односторонне смотрите на это, лично мне иногда необходимо такое вот несущественное - условный "мусорный" инструментарий. Так я бы писал его сам и медленнее, с нейронкой я могу решить какую-то ситуативную проблему, которая не относится к реальной задаче, быстрее. И этот код что так, что так грязный на выходе, потому что ситуативный, и после решения реальной проблемы идёт в мусорку.
Не стоит путать процесс и результат - если цель что-то сделать, я сделаю это сам. Но если мне надо условно распарсить километр логов чтобы отловить 3 события, мне проще с нейронкой скрипт написать. То есть мне писать код с изначально нулевой ценностью стало проще.
Вы для себя в донейросетевую эру скрипты не писали для автоматизации работы? Вы их писали вот прямо с теми же требованиями к качеству, что и production код?
Вы их писали вот прямо с теми же требованиями к качеству, что и production код?
«...но можете этого и не делать. Если вас не интересует результат.» © Жванецкий.
Я - да.
А я вот писал их с более строгими требованиями к качеству, что и production код.
Потому что это ж *мои* данные, а не *чьи‑то там*!
Однажды Сисадмин пожаловался Учителю:
— Мы выдали всем нашим пользователям индивидуальные пароли, а они не желают хранить их в тайне. Записывают на листочках и приклеивают к мониторам. Что нам делать? Как заставить их?
Инь Фу Во спросил:
— Сначала скажи, почему они это делают.
Сисадмин подумал и ответил:
— Может быть, они не считают пароль ценным?
— А разве пароль сам по себе ценный?
— Не сам по себе. Ценна информация, которая под паролем.
— Для кого она ценна?
— Для нашего предприятия.
— А для пользователей?
— Для пользователей, видимо, нет.
— Так и есть, — сказал Учитель. — Под паролем нет ничего ценного для наших работников. Надо, чтоб было.
— Что для них ценно? — спросил Сисадмин.
— Догадайся с трех раз, — рассмеялся Учитель.
Сисадмин ушел просветленный и сделал на корпоративном портале персональные странички для всех работников. И на тех страничках был указан размер зарплаты. Узнав об этом, все пользователи забеспокоились о своих паролях. На другой день в курилке обсуждали размер зарплаты Главбуха. На третий день ни у кого не было видно листочков с паролями.
И у меня над душой не стояли «нам этот код нужен вчера, выкатывай срочно!»
Может и начинать не нужно было? Какая-то когнитивная деградация, вместо прозрачности или создания чего-то существенного, делать какую-то фигню и потом выкидывать.
Невозможно согласиться. Вот мне однажды понадобилось понять и объяснить как разные настройки влияют на задержки передачи данных в сети. Для этого бямка написала мне скрипт, чтобы из pcap-файла добыть нужные данные (там был туннель в туннеле в туннеле) и представить на графике. Типичная одноразовая, но тем не менее необходимая, работа. Без бямки мне бы пришлось раскурить три библиотеки, которыми я не пользовался ни до, ни после.
Нам сеточка (клава) помогла словить сетевой баг непосредственно по бинарным результатам сниффера. Далее написала тестовый скрипт на питоне, который повторял проблему локально. Писала на голых сокетах, так как проблема оказалась на уровне работы TCP. Баг успешно был повторен и успешно нами поправлен (одной строкой, sleep(10), знаю что костыль, но по факту сработал идеально) в течение дня. Раньше подобное ловилось + правилось бы минимум неделю.
проблема оказалась на уровне работы TCP.
Кажется, знаю я о Вашей проблеме.
кусочек лога анализа сетки. насколько помню RST прилетал вместо ACK. sleep поправил проблему. правили нашу реализацию достаточно специфического сетевого протокола над TCP
Баг №2: CU разбивает каждый PDU на две записи в сокет → Nagle + delayed ACKХорошо видно в пакетах 4/6, 8/10, 12/14: сначала уходят ровно 6 байт заголовка PDU (тип, reserved, длина), и только потом тело. Тело каждый раз уходит сразу после того, как приходит ACK от сервера, задержанный delayed-ACK-таймером:заголовок 1.0 мс → ACK 11.6 мс → тело 12.0 мсзаголовок 13.2 мс → ACK 23.5 мс → тело 24.7 мсзаголовок 27.2 мс → ACK 37.5 мс → тело 37.9 мсЭто классическая связка Nagle + delayed ACK: маленькая вторая запись придерживается, пока не подтверждена первая. Из 56 мс всей сессии ~31 мс — чистый простой, при RTT порядка 0.15 мс.
Почему-то во всех этих речах алармистов сквозит идея о том, что мясные разработчики такие полубоги, которые всегда ясно видят всю архитектуру любого проекта, никогда не допускают ошибок, и их код не нуждается в ревью.
Может хватит этой элитарности, и стоит оглянуться назад, во времена донейроночные, на все эти сотни тысяч CVE и RCE, написанные с толком и расстановкой, которые сейчас вычищаются передовыми нейронками?
Все в мире относительно.
Их слепая вера в собственную непогрешимость - наша святая уверенность в непогрешимости нейросетей.
Их тупые мясные разработчики - наши гениальные агенты.
Их нулевая ответственность за код - наш ответственный подход.
Их метод проб и ошибок - наши продуманные интеграции.
Их свалка кода - наши фабрики кода.
"Мы это когда-нибудь реализуем" - "Клод, сделай, не допускай ошибок"
Так никто не утверждает, что нейросети непогрешимы. Их всё-таки делают по нашему образу и подобию. Просто не надо считать, что вот мясные-то всё делаю замечательно и с первого раза!
Ого, мы уже делаем кого-то по своему образу и подобию? Тут рпц случаем не пробегала?
В самом названии "нейросеть" есть ответ.
Ну да, как же я не догадался. Вот нейросеть бы сразу поняла.
Записываем: UFO_01 - не нейросеть. Ну он - UFO, ему можно быть и просто АЛУ …
Факт. А мы строим нейросети вдохновившись принципами работы жутко неэффективной сети, что находится у нас в голове, сплошь состоящей из костылей, и чтобы эти костыли исправить в наших творениях, плодим новые костыли. Человек звучит гордо, да? Хотя это всё равно что говорить мол самолёты по образу и подобию птиц сделаны. Так-то оно так, принцип работы тот же, но есть нюанс.
Ну первые летательные аппараты буквально по подобию птиц делались. Из-за того что не понимали прицип кубов/квадратов - много народа убилось (площадь крыла должна быть пропорциональна массе - т.е. отношение длинны крыла, например, к длине тела должно линейно расти при масштабировании, т.е. если человек длинее птицы (гуся) в 3 раза, то его масса больше в 27 и крылья должны быть не в 3 раза длинее, а в 9).
А мозг - это всё же нейросеть. Биологическая, с другой архитектурой, но нейросеть. А нейропластичность - она переоценена.
Из-за того что не понимали прицип кубов/квадратов - много народа убилось (площадь крыла должна быть пропорциональна массе - т.е. отношение длинны крыла, например, к длине тела должно линейно расти при масштабировании, т.е. если человек длинее птицы (гуся) в 3 раза, то его масса больше в 27 и крылья должны быть не в 3 раза длинее, а в 9).
В 3*sqrt(3).
Пожалуйста.
Это если крылья растягивать в длинну и шинрину. Но в ширину - не очень хорошо: баланс страдает. А если дополнительно растягивать только в длинну (о чём и написанно) - то в 9.
Если брать исходную модель птицы и растягивать только в длину - надо растянуть в 27 раз.
Если брать птицу и сохранять пропорции - надо растянуть в 3*sqrt(3) раз.
Что так что так - в 9 раз не получается.
Почему ваше предложение: растянуть в длину в 9 раз * растянуть в ширину в 3 является оптимальным - требует доказательства.
Нейросеть так называется потому что копирует принцип работы нейронной сети мозга. По нашему образу и подобию она была бы, если бы обладала нейропластичностью, то есть могла перестраивать собственную структуру, а не просто меняла веса в процессе обучения. И современные нейросети это гигантский фильтр с предсказанием, основанный на обратном распространении ошибки и кучей костылей поверх.
Так никто не утверждает, что нейросети непогрешимы.
Так никто не утверждает, что мясные непогрешимы. Это вы сами додумали, сами побежали опровергать.
Вы применяете классический перевод стрелок, так нежно любимый ИИ-фанатиками. Начинаете оправдываться, что раз мясные ошибаются, значит, и ИИ можно. Сознательно игнорируя масштаб ошибок, который обычно допускают те и эти, потому что сравнение будет не в пользу ИИ. Ну а что, если аргумент неудобный, то про него лучше умолчать, правда ведь?
То, что мясные иногда ошибаются и пишут плохой код, не даёт права оправдывать ИИ.
Нет, я просто напоминаю о том, что как раз к коду от мясных тоже надо относиться осторожно, тоже проводить ревью и тому подобное. Это ведь десятилетиями было нормальной практикой. И всё равно как вышли нейронки мы увидели, что в крупных проектах тысячи CVE.
Осторожность нужна и к одним и к другим.
в крупных проектах тысячи CVE
Это и до нейронок было известно. И кстати интересно получается, если нейросети учились на коде где куча CVE, и учитывая их вероятностную природу, почему вы считаете что они будут писать код лучше? И учитывая что нейронки зачастую рассматривают happy path, в то время как у меня включается паранойя (издержки специализации), вплоть до того что исходники либ ковыряю, чтобы понять что метод делает.
Не, я не спорю, я тоже говно периодически пишу, человеческий фактор надо учитывать, но я осознаю что могу написать говно, поэтому постоянно себя одёргиваю и перепроверяю. И линтерами, и стат анализаторами, и санитайзерами обвешиваюсь, и нейронки для ревью использую. Ну а в крупных проектах CVE не только потому что программисты плохие, но и потому что проекты слишком большие и сложные.
Не так давно кстати смотрел что выдал клод для обёртки поверх snmp++, буквально единственной открытой кроссплатформенной либы на c++ для работы с snmp. И там был интересный момент - асинхронный get возвращал статус, но нейронка посчитала что возвращается id запроса, типы данных одни и те же, технически код верный. По id можно было отменить запрос, вызвав cancel, внутри этого метода освобождались ресурсы. Надеюсь вы понимаете к чему я клоню, утечка памяти на ровном месте. В примерах такого нет, благо либа не особо большая и код неплохо написан, и разобраться не составило труда. Почему нейронка так решила - не знаю, при том что исходники самой либы лежали рядом и использовался агент.
И кстати интересно получается, если нейросети учились на коде где куча CVE, и учитывая их вероятностную природу, почему вы считаете что они будут писать код лучше?
А почему вы считаете, что инженеры, обучающие модели, свалили всё в кучу, и надеются на авось?
Дальше даже не стал читать. Поизучайте то, как строятся датасеты.
А почему вы считаете что инженеры проводили глубокий аудит при составлении датасетов? Да, если CVE официально оформлена, то код с ней в датасет не попадёт. А что насчёт ещё не обнаруженных, они попадут в обучающую выборку? А если составители датасетов знают где эти самые CVE, чего же они их не оформили? К тому же каким бы ни был классным датасет, вероятностную природу нейросетей и выбор happy path в некоторых случаях это не отменяет. Что и говорится в моём примере, который вы проигнорировали, хотя выше упрекали программистов в высокомерии.
А почему вы считаете что инженеры проводили глубокий аудит при составлении датасетов?
А почему вы считаете, что сейчас именно инженеры должны смотреть каждый файлик? Для этого есть предыдущие модели, какой-нибудь Опус 5 вполне может во всём разобраться и подготовить датасет для обучения Опуса 5.5. В настоящее время уже только так и происходит.
Рекомендую почитать про model collapse. Для обучения нейросети как правило нужна более крупная и точная нейросеть, и то ограниченно. Так делали например с qwen, там на этапе пред обучения массив данных содержал небольшую часть выдачи клода, который заполнял пробелы в реальных данных. А на этапе пост обучения уже использовали целиком выдачу клода.
И опять-таки, откуда нейронке знать про не зарегистрированные CVE если это не условный bigsleep.
Нет там такой идеи, вы сами это придумали. Идея в том, что только человек может нести ответственность за созданное им, машина же просто напишет: "Да, вы правы, это была моя ошибка..." и будет тупо ждать следующего промпта, ее никто не накажет и не уволит.
В какой-то момент ИИ-агент, которому прямым текстом запретили что-либо менять, удалил рабочую базу с записями о тысяче с лишним компаний и их руководителей, а потом еще и уверенно сообщил, что откатить изменения нельзя, хотя откатить их в итоге получилось. Глава Replit потом публично извинялся, компания быстро разделила тестовую и рабочую базы и добавила режим, в котором агент только планирует и ничего не трогает
Это уже не про агентов вопрос, а про организацию процесса в целом. Случайно что-то удалить может и сам разработчик, или из-за сбоя может случиться потеря данных. Система контроля версий, и система резервирования данных, должны быть грамотно реализованы в любом случае.
Для меня ключевой риск здесь в моменте, когда одноразовый прототип внезапно становится продуктом. У него появляется первый внешний пользователь, ценные данные и платежи, а требования остаются как у пятничной демки.
Нужен отдельный "перевод в прод": назначить владельца, проверить восстановление из резервной копии, зафиксировать зависимости и решить, что дешевле: привести код в порядок или переписать. Тогда вайбкодинг останется дешёвым способом проверять идеи, но случайный прототип не сможет тихо превратиться в критическую систему.
(попробую развить мысль, через "частное" применение, к своему "предсказанию" варианта "Одноразовая разработка") >"Цена написания упала почти до нуля".
1. Добавляю: ассоциацию "Три поросенка" - три домика ("написанных": "из соломы (мазанку, саманный домик)", "из веток (дерева)", "из камней (кирпичный)".
2. Почему "подходит" к Одноразовой разработке - дом редко "переделывают" (переписывают) и "тестируют (типа Unit-тестов)" (на прочность - достаточно (при проектировании и строительстве) использовать готовые архитектурные и конструктивные решения, и соблюдать марки материалов.
3. Применяю к программной разработке:
- "написание" - "сложить" (фрагменты кода) приложение в нужную форму, используя определенные материалы и инструменты;
- солома, дерево, кирпичи - материалы (но и конструктивные особенности и инструменты).
4. Возвращаю:
- LLM-агент - хороший мазанщик, плотник, каменьщик;
- сразу видно, что для "сдачи дома под ключ", нужны и другие работы (отделка, электрика, ...) - специальности;
- напрашивается "правило": для низко-бюджетных решений ("из соломы") - один исполнитель на все работы. И наоборот;
- видна "требуемая специфика" (домов). Например, теплоэффективность: саманный домик - достаточен в теплых районах, крипичный (да еще и с толстыми внешними стенами) - необходим в районах "крайнего Севера";
- отличие (от проектирования и строительства дома) пробного моделирования приложения (по желанию/заданию простого Человека) - минимальные затраты времени и невосстанавливаемых ресурсов (пока электричество - "не так жалко").
5. Выводы:
- SDLC: вариантов разработки приложений - будет много (каждая фирма - выберет свой);
- следует признать, что, пока: AI-код - "детский" (безответственный). Его можно "довести", только добавив человеко-ресурсы (существенно более дорогие - пока нет Единой методологии взаимодействия Mчел:Mai) ;
- отсюда, "код - дешев" - только в "детской песочнице". Пока заказчик "пробует". Если/Когда же ("через две недели") он поймет ("что нужны надежные компетенции и гарантии"), он (или его "подрядчик" - AI-ассистент, человек, или фирма) "обратится к специалистам";
- чтобы специалист мог "подхватить проект" (уже построенного дома, "кракозяблей" AI-дракоши), нужны будут затраты (как отраслевые - в концепции и инструменты, так и проектные - по обеспечению внутренней совместимости, и на конвертирование);
- надежда: предоставление "простым" людям дешевой одноразовой AI-разработки (и легкого выката) их "хотелок" - покроет хайп, чем даст ИТ-фирмам временной лаг, с постепененным ростом загрузки, подготовиться/перестроиться;
- с возможностью формирования (сильнейшими) "нового порядка" - своего взгляда на мир будущего;
- уже имея доступ к AI-ассистентам (но без "нормализации", не зная о такой возможности), какая-то часть "простых" людей, "непрерывным потоком", будет "обжигаться" настолько, что "больше (на какое-то время)" не обратится к специалистам. И, вместо увеличения размера части рынка, произойдет его уменьшение - напрашивается управление сегментом.
PS: отказ от Управления "одноразовым хайпом" (и предоставления Интерфейса в native-разработку) - череват дальнейшим ускорением Хаоса "Что нас ждет в будущем".
Невероятный нейрослоп. Собрано всё о чем писалось на хабре и объединено в водянистую кашу. Видимо автор понял, что за анти-ИИ-ларперство щедро отсыпают плюсов, даже не читая статью.
3 года назад модели программировали прям плохо.
2 года назад модели программировали уже сносно.
1 год назад модели программировали уже сопоставимо с сеньором.
Программировать как fable5, я, наверное, и не смогу.
Моделям на данном этапе всего лишь не хватает :
1)систематизированных знаний, зачем кожаные мешки делают обвязки доступов, баз и прочее. 2) возможностей удержать весь проект в памяти
Вы правда думаете, что модели не смогут перепрыгнуть эти два пункта? А когда станут думать и делать как архитектор+сеньор, что останется кожаным?
2 года назад - сносно? Тут есть или какие-то очень серьёзные проблемы со стандартами или память подводит.
django + ts вполне сносно формошлепали. Не блеск, но можно было дать пример и он по образу и подобию делал и ручку в django и форму в реакте. Всё быстрее, чем руками кнопки топтать
2 года назад - сносно? Тут есть или какие-то очень серьёзные проблемы со стандартами или память подводит.
Всё очень просто —
@Hemml Да, всё, в чем ты не разбираешься, нейронка делает хорошо. Но вот то, в чем ты что-нибудь понимаешь, она всегда делает плохо
Начал серьёзно использовать агентов чуть меньше года назад, модели программировали кое-как, я хз где там 2 года назад.
Хорошо начали кодить только с опус5. После некоторой настройки предираться особе не к чему. Пока дежусь за проектирование и аналитику, там пока модели закапывают стоя конструкции над конструкциями.
1 год назад модели программировали уже сопоставимо с сеньором.
Серьезно? Вы пробовали отдать модели на ревью ее собственный код? Или другой модели? Конечно, если говорить о серьезных проектах со сложной логикой, а не о вайб-поделках.
Вы сами подтверждаете мысль. Модели на глазах становятся сильно умнее. Как думаете, насколько быстро они смогут оперировать не кусочком кода, а всем кодом? И будут помнить всё? Я вот думаю, что срок в месяцах.
Нет, не подтверждаю. "Уровня сеньора" у LLM нет ни сейчас, ни тем более год назад не было.
Я вот думаю, что срок в месяцах
Думать и говорить можно все что угодно) к 2025 году нам обещали замену 90% разработчиков и появление AGI. ИИ - хороший инструмент, но не стоит слепо его превозносить и считать, что он не ошибается.
Как думаете, насколько быстро они смогут оперировать не кусочком кода, а всем кодом? И будут помнить всё? Я вот думаю, что срок в месяцах.
Вы, похоже, вообще имеете слабое представление о том, о чём рассуждаете)
Нейросетке УЖЕ СЕЙЧАС можно скормить весь репозиторий. Да вот только чуда не произойдёт, точность генерации снижается по мере роста проекта.
Скормить-то можно, но она его забудет. А вот когда она будет помнить ВЕСЬ репозиторий? А ведь это не за горами
А ведь это не за горами
Как изменилось контекстное окно моделей за последний год, не подскажете?
Помнить надо не репозиторий, а пот, боль и слезы его эксплуатации
(и со стороны эксплуатации и со стороны поддержки).
А вы пробовали дать модели столько же времени на написание + ревью задачи сколько потребовалось бы сеньору?
Да, иногда нужно несколько итераций ревью, чтобы код стал достаточно хорошим. Но это всё ещё 2 часа против условно двух дней сеньора на задачу.
Ну и в любом случае качество будет зависеть от постановки задачи и качества работы проверяющего. Так что сеньорность модели зависит от сеньорности человека, её использующего.
модели программировали уже сопоставимо с сеньором
Модели программируют так как в контексте указано. Если проект - лапша без архитектуры - они ее продолжат. Если в задаче "сделай хорошо", то результат будет как получится. Каждый сеньор индивидуален, у него есть собственное чувство прекрасного на основе опыта, требования к архитектуре/читаемости, безопасности, производительности итд. Ллм таких параметров не имеет.
Можно промптами задать такие индивидуальность.
Но конечно вылезет что-то подлое в самом неподходящем месте.
То, что модели не могут - это предсказуемость ошибок, в сравнении с людьми.
А в чем плюс индивидуальности? Что какой-то сеньор может написать так, что никто другой не разберётся ? Это совсем не плюс, а наоборот, жирный минус.
А нейронка не ленится, и пишет понятно, и комментариев напишет.
3 года назад модели программировали прям плохо.
2 года назад модели программировали уже сносно.
1 год назад модели программировали уже сопоставимо с сеньором.
Логическая ошибка интерполяции. С такой логикой можно утверждать, что любое дерево однажды вырастет до космоса.
Ну, когда-то и производители процессоров думали, что смогут наращивать тактовую частоту процессоров до бесконечности. А в итоге упёрлись в потолок.
Программировать как fable5, я, наверное, и не смогу.
Если вы плохой программист и пишете хуже ИИ, то это ещё не значит, что нейросети хорошо программируют :)
С такой логикой можно утверждать, что любое дерево однажды вырастет до космоса.
Про Ахиллеса и черепаху раньше придумали.
Это ваша ошибка интерполяции. Я статистик, для меня все прозрачно.
Если вы плохой программист и пишете хуже ИИ, то это ещё не значит, что нейросети хорошо программируют :)
Дык!
Все программисты в мире делятся на две категории:
— Те, кто считает, что ChatGPT кодит на порядок лучше их;
— Те, кто считает, что ChatGPT кодит на порядок хуже их.
И те, и другие абсолютно правы.
Реклама какого-то чувака, который придумал термин. В общем вода из ничего. Никто ничего не придумал, статья из пустого в порожнее.
Ваш разбор - случай, когда статья про ИИ не заканчивается пророчеством, а заканчивается счётом. Но в бухгалтерии вижу ещё одну строчку, и она дороже...можно отдельной статьей написать в принципе... ( P.S. хотел добавить что более интересна мысль посмотреть бы на изменения самой разработки, когда сопровождение и изначальная проверка также станут почти машинными но обсуждение уже было в коментах сказано)
на мой взгляд очень важная мысль о том, что надо различать мелкие программы и крупные проекты. Это две разные реальности со своими закономерностями. Хвастаются в основном про мелкие программы, а критикуют ИИ разработчики крупных проектов.
Удешевление генерации кода само по себе не удешевляет изменение системы. Дорогими остаются формулировка границ, проверка поведения на реальных данных, интеграция и восстановление после ошибки. Поэтому я бы считал не стоимость написанной строки, а время от гипотезы до принятого результата — вместе с ревью, переделками и последствиями неудачного изменения.
Лично я последний год наблюдаю повальное ухудшение качества софта. То, что раньше работало, теперь сбоит на ровном месте. Сайты, мобильные приложения, да даже Windows. Явно без вайбкодеров тут не обошлось. А самое гадкое, что обращение в техподдержку ничего не дает - там теперь везде боты. И исправлять никто ничего не будет.
Всё началось с того, что программное обеспечение стало подаваться (и продаваться) "как есть" (as is), то есть — без гарантии конечного результата (надёжности работы, например). И при всём при этом, в большинстве ситуаций, нужно просто установить операционную систему и пользоваться ею годами не получая никаких обновлений (кроме, разве что, обновлений безопасности). В этом смысле, байб-кодинг лёг на хорошо унавоженную почву, когда процесс производства программного обеспечения из инженерной дисциплины (со своими законами и правилами) превратился в бесконечный и хорошо автоматизированный (задолго до ИИ!!) процесс производства "фич".
Самое скверное, что эту сферу начинает осваивать огромная армия тупых неолуддитов, которые с помощью ИИ будут крушить направо и налево всю созданную такими трудами информационную (и не только) инфраструктуру просто ради прикола (а вслед за ними придут бандиты и деляги, которых интересуют только деньги – так развивался предыдущий цикл). Прежние вирусописатели покажутся детишками на горшке по сравнению с теми, кто научится использовать новый инструмент.
Привет Клод! У нас есть целый город чтобы сжечь его! <тяжёлые гитарные рифы>
Свежайшие новости:
Руководители компаний Anthropic, OpenAI и других компаний, занимающихся разработкой искусственного интеллекта, готовятся к потенциально катастрофическому инциденту, связанному с ИИ, который может произойти в течение следующих шести-двенадцати месяцев.
Это может быть, например, кибератака, нарушающая работу финансовых услуг, доступ к интернету, электро- или водоснабжению, сообщает Axios.
Компании пытаются просвещать законодателей и формировать будущую законодательную базу, несмотря на то, что считают, что регулирование вряд ли будет введено до серьезного инцидента, отмечает издание.
По информации портала, разработчики считают неизбежным какой-нибудь крупный инцидент, способный парализовать работу интернета или электросетей. Беспокойство возникло после недавнего взлома южнокорейских банков хакером, который использовал для атаки сразу несколько нейросетевых моделей.
Я уже смеялся что в киберпанке у гибсона были описаны ИИ. Это те самые льды и ледорубы.
А что изменилось?
Цена внутреннее непротиворечивых изменений упала. Вещь в себе. Красивый, но не соответствующий реальным требованиям и ограничениям результат.
Считаю, что это смешное по масштабу изменение.
Щас веду документацию в Claude. Потому что задолбался поддерживать её непротиворечивой: требования-код-инциденты-данные всё должно быть увязано. И в этом она хорошо помогает: я даю новый инцидент и она трассирует зависимости по коду, данным, документации.
А вот чтобы спроектировать нейронкой что-то важное я уже забил - это дорога в один конец с потерей понимания модели.
Вся история техники - это, по большому счету, история изменения способов получения нужного человеку результата. Сам результат при этом тоже меняется, но уже не так сильно: способ меняется качественно, а результат чаще количественно. Самолет довозит быстрее и дешевле, чем лошадь и плот на то же расстояние, но сама функция перемещения в пространстве - остается. А вот способы и средства реализации меняются принципиально.
Но штука в том, что эти принципиальные изменения - часто повторяются, ибо проблемы во многом похожи, равно как и их решения. История корабельных и авиационных винтов (пропеллеров) во многом повторяется, как и история водяных и воздушных турбин и много чего еще. Причина повторяемости решений - в сходстве ограничений: например, ограничение по скорости преодолевается распараллеливанием, а ограничение по размеру - иерархической структурой. Программирование в этом отношении мало чем отличается от реального производства. Средства меняются - проблемы остаются, и способов их решения, принципиально, не миллион.
А если способы решения сходных проблем похожи в разных областях - то что конкретно может помешать нейронке находить нужные решения? Правильно - незнание реальных проблем. И загвоздка - именно в этом: правильно описать суть проблемы с учетом реальных ограничений.
А теперь вопрос на засыпку: правильное описание проблемы - это, вообще, функция чья? Те люди, которые ее умеют выполнять, думаю, останутся нужными при любом уровне развития ИИ. Вот только я не совсем уверен, что эти люди должны быть именно программистами, пишущими код своих программ или даже проверяющими чужой код. Мне так кажется, что это малость другая специализация, и программисты ей занимаются скорее в дополнение, чем в качестве своей основной рвботы.
Да ладно Вам нагнетать! Берем еще одного чат-бота и даем ему команду проверять то, что написла первый, делов то... ;)
Аккаунт-LLM пишет о проблемах эпохи LLM. Символично.
У вайбкодинга есть прекрасная особенность: он позволяет максимально быстро создавать технический долг, даже не понимая, где именно ты его создал. Сейчас строю собственный оркестратор разработки и наблюдаю забавную картину, написать код агенту не проблема. Проблема в том, чтобы он не натворил херни за пределами задачи. В итоге вместо разработки занимаешься изоляцией среды, контролем исполнения, тестированием и проверкой результатов своего «виртуального senior-разработчика». Вайбкодинг не отменил инженерию. Он просто позволил людям без инженерных компетенций создавать проблемы инженерного масштаба, что мне кажется куда хуже.
P.S. На проектирование архитектуры, правил и guardrails уходит в сотни раз больше сил и времени, чем на саму генерацию кода. Но об этом в сказках про вайбкодинг от инфоцыган обычно забывают
Код еще никогда не был так дешев. И еще никогда так дорого не обходился