Комментарии 86
Халява это молоко, которое в шаббат скиснет, поэтому его раздают бедным-))) Теперь по сути, краткое резюме для технарей, кто был инженером без работы не останется, кто был узким специалистом того может постичь печальная участь. Собственно все последствия ИИ при условии, что он таки будет развиваться. Если ИИ не будет развиваться, то все останется по прежнему.
Ученые из академии — с этой категорией я общался меньше всего. Мне знакомы только ученые из тех, которые занимаются компиляторами и DataScience. Возможно, кому-то из ученых в комментариях стоит написать, что они думают про этот класс.
Вопрос: Чем отличается инженер от ученого?
Ответ: Инженер, встречаясь с проблемой, сводит ее к задаче и решает.
Ученый, встречаясь с задачей , возводит ее до проблемы и исследует.
Ответ: Инженер, встречаясь с проблемой, сводит ее к задаче и решает.
Ученый, встречаясь с задачей , возводит ее до проблемы и исследует
Один из вариантов перевода слова problem - «задача»)
ггг, всё так. Недавно коллеги меня попросили написать простую программку (должен был писать другой человек, но немного не осилил), делать выборки из каталога звезд, при этом нужно было прореживать выборку так, чтобы плотность звезд была меньше заданной, выкидывая самые слабые. Ну, первым делом я выяснил, что решение зависит от формы и размера тестовой площадки. Нашел экстремальные случаи, когда площадка задает ограничение на существование решения. Сильно задумался над единственностью решения при заданной площадке, но ни к чему определенному не пришел. Попробовал решить частную задачу -- просто построить распределение плотности, выяснил, что оно кусочно-постоянное, состоит из "островков" сложной формы. Сильно задумался о том, как определить форму этих "островков". Тут внезапно выяснилось, что дедлайн через два дня, так что пришлось наступить себе на горло и выдать решение, не идеальное, но достаточное для исходной задачи)
Таки если все будут вместо своего мозга и дискусов в stackoverflow юзать нейронки, описание решения новых проблем, генерацию новых паттернов программирования откуда нейросетям пиздить?:)
А все эти пласты генерокода поддерживать никому не надо будет? Будем смотреть на это как на черный ящик, если жпт не разжует че выплюнул на монитор пару лет назад по запросу джуна, который уже уволился?
И до нейросетей джуны говнокод писали, который потом консилиум сеньёров не разберёт, сейчас просто этот процесс ускорится
А нужен ли вообще код, если в процессе больше не будет человека? Читаемость кода — это ведь исключительно потребность «биологических существ». Искусственному интеллекту она не нужна. Возможно, со временем и сам код как сущность утратит своё значение.
Да!
Может, код не исчезнет, но точно станет другим. Например, сейчас многие работают на AI-first механизмами разметки кода, потому что тупой RAG по тексту неразмеченных исходников работает криво. Может даже, появятся специальные AI-first языки программирования.
Т.е. происходит тот же процесс, который когда-то прошли трансляторы, генерирующие ассембер и машинный код. Начиная с какого-то момента люди (в массе своей) перестали смотреть на то, какой именно код им сгенерировался в exe-файле.
Начиная с какого-то момента люди (в массе своей) перестали смотреть на то, какой именно код им сгенерировался в exe-файле.
В массе своей они и не начинали. Говорю как человек, считавший по сопромату балку на ЕС-1040 и корни уравнения 4 порядка на Спектруме.
Другое дело, что процент таких людей сместился - скажем, от 0,1% к 0.0001%
Читаемость кода — это ведь исключительно потребность «биологических существ».
А мы точно всё ещё говорим об ИИ в контексте LLM? Не забывайте, что эти модели именно что "языковые" и для того, чтобы анализировать, дабы сматчить своим статистическим багажом, им по-прежнему нужен текст. К тому же, система, созданная пусть даже АИ, для которой не нужен текст, нуждается в аудите, хотя бы другой аишкой. Так что тут текстовый язык программирования - лингва франка, не иначе.
Что-то вспомнилось из "Возвращения со звёзд" Лема про роботов которые трудились на производстве под надзором других роботов, а человеки только периодически проверяли отчётность. И решение отправить в переплавку тех роботов у которых внутрений ИИ начал галлюцинировать, например считая себя человеком, тоже роботы принимали.
Вот этот кусок мне прямо нравится:
Скрытый текст
В кабинете на столе уже лежали подготовленные бумаги – протокол контроля, еще какие-то листки, – Марджер заполнил по очереди все рубрики, подписал сам и передал ручку мне. Я повертел ее в пальцах:
– А не может случиться ошибки?
– Простите, не понял.
– Там, в этом… ломе, как вы его называете, могут оказаться… еще пригодные, совершенно исправные – как вы думаете?
Он смотрел на меня так, словно не понимал, о чем я говорю.
– У меня создалось такое впечатление, – медленно докончил я.
– Но ведь это не наше дело, – ответил он.
– Нет? А чье?
– Роботов.
– Как же это – ведь мы должны были контролировать.
– Ах нет. – Он с облегчением улыбнулся, открыв наконец источник моей ошибки. – С тем это не имеет ничего общего. Мы проверяем синхронизацию процессов, их темп и эффективность, но не вдаемся в такие подробности, как селекция. Это нас не касается. Не говоря о том, что это совершенно не нужно, это было бы и невозможно, потому что ведь на каждого человека приходится теперь по восемнадцать автоматов; из них примерно пять ежедневно заканчивают свой цикл и идут на слом. Это составляет около двух миллиардов тонн в день. Вы же понимаете, что мы не могли бы следить за этим, ну и кроме того, наша система предполагает как раз обратное: автоматы заботятся о нас, а не мы о них…
А ведь опубликовано в 1961 году.
А почему вот прямо обязательно говнокод? Тут возможен подход как с кодогенераторами. В гит будут коммититься промпты, утилитарный код будет генериться и использоваться где надо прямо в пайплайнах, а критичные вещи пока будут все равно закрываться бородатыми сеньорами
Не просто "будет", а все продвинутые чуваки с этим экспериментируют прямо сейчас :)
В гит будут коммититься промпты
Это бессмысленно. На тот же самый промпт нейронка в следующий раз выдаст другой результат. Именно поэтому в компиляторах не применяется ИИ. Компилятор - это 100% детерминистская система. Одно и то же на входе - значит одно и то же на выходе. Если это будет не так, то все тестирования и сертификации теряют смысл и такой софт нельзя использовать.
другой результат
Seed и версию нейронки надо прилагать к промпту.
Именно поэтому в компиляторах не применяется ИИ
Не поэтому. И кстати — будут использовать. Скриньте.
Компилятор — это 100% детерминистская система.
Нет.
все тестирования и сертификации теряют смысл
Не теряют.
такой софт нельзя использовать.
Можно.
Компилятор — это 100% детерминистская система.
Нет.
А можно узнать конкретный контрпример? Или здесь речь о том, что "в теории, детерминированность может не требоваться"?
Как пример можно рассмотреть любые SIMD оптимизации в очередном C++ компиляторе (Intel или тем более Microsoft). Все вот эти вот /arch:AVX512 и /arch:AVX2, которые могут какой‑либо участок кода скомпилировать в SIMD‑инструкции, а могут и не сообразить и скомпилировать скалярно, без оптимизации. По факту (не по документации, а именно по факту) это часто зависит от фаз луны, версии компилятора, высоты установки монитора и температуры за окном. И ещё чего‑нибудь.
Сам код, который прогнали через такую оптимизацию, может работать и на компах с целевым SIMD, и без него, но результат работы отличается. Или другой пример — оптимизации деления чисел с плавающей запятой, которые заменяются на умножение на обратную величину — они заменяются не всегда, и точность может быть такой, а может быть другой. Зависит от того, захотел в этом месте компилятор почесаться, или нет.
Я говорю именно о том, что я написал некоторую логику на ЯП, но не могу быть уверенным, что полученные машинные инструкции будут на 100% реализовывать конкретно описанную мной логику.
то, что люди всего этого не понимают, как раз потверждает твои слова комментарием выше - такой софт можно использовать.
с Java и ее JIT-компилятором и супер умным GC то же самое. Как они там сработают - зависит от кучи параметров, и самое главное - среды относительно которой они запущены. Можно считать текущее состояние всей системы аналогом рендом сида. Из того, что ты можешь детерминированно сделать первый шаг от сида до результата, вообще никак не следует, что ты можешь консистентно думать о поведении всей системы целиком во всех случаях. На практике это просто магия, чуваки сидят тюнят параметры и потом пытаются рационализировать полученные результаты.
Да в конце концов, софт бывает разный, и тот факт что его можно генерить за секунды по промптам написанным за минуты, а не неделю писать - отлаживать, открывает множество новых вариантов использования. У нас не-прод софта намного больше чем прод-софта. А генерация кода лишь один из множества вариантов использования ИИ. Конечно, если мыслить как в старом анекдоте ,"не может солдат в одно рыло два мешка брюквы съесть", тогда да ...
Надо не забывать, что однажды бородатые кончатся, а новых не завезут.
С github будут брать
А класть кто туда будет ? Или это как в анекдоте про деньги и тумбочку.
"новых паттернов программирования" - а они не нужны эти паттерны, это для человека. Скорее всего всё сведётся до какого то простого языка программирования, ещё поддающегося человеческому контролю.
Каким-то образом удалось совместить две самые унылые и заезженные темы про "парадигма меняется AI всех заменит" и "формошлёпы да волки не тру хацкеры и ваще не инженеры" в одну статью. Это ж постараться надо
думаю статья набросана с участием llm-ки)
Из Клода была скопирована только полная цитата из Терминатора. Ну и под конец попросил расставить запятые и поправить грамматические ошибки, но с этим Клод справляется не очень хорошо (случай r в strawberry)
Писать сейчас статью и не прогнать перед публикацией через нейронку - это чистая потеря времени читателей, которые без этого будут репортить тебе десятки опечаток. Всё, статьи совсем без ИИ больше не нужны. Это примерно как фоточки в Инстаграме, которые всегда прогоняются через фильтр перед отправкой.
Писать сейчас статью и не прогнать перед публикацией через нейронку - это чистая потеря времени читателей, которые без этого будут репортить тебе десятки опечаток.
А это точно получается лучше, чем вычитать её самому?.. Или это конкретно у меня глаз уже намётан, и поэтому кажется, что самому надёжнее?
А чем нейронка лучше старого доброго спелл чеккера ?
Ох, сколько раз я помню ощущение от чтения какой-нибудь статьи на Хабре, что вот-вот кровь из глаз пойдет. :) Несколько раз уже думал, что администрации пора бы уже прикрутить нейронку, которая будет проверять и аппрувить статьи (или указывать на проблемы). Как оказалось, кто-то даже не перечитывает то, что написал (помню, было признание).
Видимо тем, что умеет по контексту определяет где ставить запятые, пробелы ("так же"-"также"), "тся-ться" и точки над Е.
Но про Ё спорно, на ней нейронки часто спотыкались раньше, сейчас не знаю ситуацию.
Зашибись - пол отрасли умрет ! А в отрасли люди то живые ! Автор про это подумал? Когда подумает - пусть напишет
интересно, а работодатели в курсе?
Когда появлялись компьютеры ванговали, что будет электронный документооборот, и бумаги будет меньше, и как то меньше ее не стало
Стало меньше. Я уже забыл, когда что-то от руки писал. Даже конспекты сейчас в электронном виде делаю.
Намного меньше. Может где-то и осталась, но везде где работал бумажная документация давно не используется.
Бумаги стало на порядок больше, только она вся сейчас электронная. В этом вся беда цифровизации - она упрощает работу со справками и их количество растет без останова.
Пускай ИИ эти бумаги и оформляет, для другого ИИ. Да, формально оборот (объём) может даже вырасти, но если прежде я должен был руками+ногами собрать за три недели три бумажных справки для получения услуги, а тепер за 10 минут собирается 33 (и перекладывается 1000 JSON'ов) - пускай. Просто побочный эффект прогресса, один из.
Пускай ИИ эти бумаги и оформляет, для другого ИИ
Вы уверены в том, что Вы хотите доверить свою судьбу в руки ИИ ? А что если этот ИИ за Вас, чисто случайно, подпишет какое нибудь кабальное для Вас соглашение, ведь Вы физически не сможете вникнуть в суть текста этих 1000 форм, соглашений и справок. Вы и глазом не моргнёте как лишитесь своего имущества и накоплений, еще и шраф в 100500 триллионов рублей получите в придачу к статусу иноагента. Кому Вы потом будете рассказывать про побочный эффект прогресса ?
У меня коллега по работе столкнулся с тем, что не мог в течении почти десяти лет заменить одну букву своей фамилии в базах гос структур, из-за чего многие его справки принзавали недействительными, в том числе и автостраховки. И это без ИИ.
Внедрение нейронок не означает, что у разработчиков будет меньше работы, или она станет менее интенсивной.
Большинство инструментов повышения продуктивности для того и предназначены, чтобы ты мог работать больше и лучше.
Это не значит, что ты теперь сможешь работать 10 минут в день вместо 480, выполняя ту же самую норму производительности.
Нет, это значит только то, что норму и требования к тебе повысят в 48 раз.
ггг, я помню этот момент. Бумаг стало во много раз больше! Ну сколько той бумаги могла напечатать несчастная машинистка? А вот принтер железный, ему только бумагу загружай))
LLM копипастит со StackOverflow быстрее, чем мешок с костями — ведь ей не нужно пользоваться Google чтобы найти статью на SO, она знает весь SO наизусть.
Разница куда более существенная - LLM может генерить ответы которых нет на SO. И даже, зачастую, правильные. И они конечно не знают весь SO наизусть, объём обучающего датасета намного превосходит то что LLM способны вместить в своих весах.
Кажется, тут очень важно попридираться к словам. Не все LLM одинаковые. Можно специально тренить LLM конкретно на StackOverflow. Или натянуть поверх ламы/квена/глм какую-нибудь лору - максимально нищебродский способ тюнинга. Можно забэкать это всё через RAG который ходит напрямую в дамп SO по архитектуре Perplexity с многоуровневыми моделями (лама онпрем для анализа, клод для финального синтеза результата). У SO очень четкая структура данных (многолетние драконовские правила), так что у тебя есть четкий план запроса.
Всё вместе в одну сторону - это уже очень похоже на "знает наизусть". Сейчас можно взять Perplexity и попросить ее поискать что-то, про что ты совсем недавно читал тикет на SO. С шансами она не только найдет этот тикет, а еще несколько тикетов которые намного лучше.
С огромным удовольствием прочтал пост. Отличный язык, приятный анализ. Особо порадовался за инженеров. Вдохновляет. К сожалению, класс "бизнесмен" раскрыт слабовато. А там можно "расширить и углубить".
Вспомним лишь классику "бесплатный сыр только в мышеловке"
ребята, которые решили, что их жизненная задача — превращать тикеты в джире в код. Примерно как мясорубка превращает кошку в шаверму.
Очень похожее описание себя лет 5, кажется, назад давал Алексей Шипилёв. Не уверен, что его можно отнести к "кодерам" и к тем, кого ИИ "размажет".
Иронические истории Лёши обо всём на свете - не то же самое, чем он реально занимается :) Лёша - офигенный инженер, который решает тяжелые задачи и разгадывает сложные головоломки. Просто посмотри на его баги и раздел recent posts на сайте. Ему платят по факту решения всех этих трудных задач. Это то, что выясняется простым наблюдением за делами, а не за словами.
Блин, я забыл поднять табличку "sarcasm"! Конечно же мои иронические комментарии не призваны принизить Алексея. Просто он действительно года 4 назад в твитере писал что-то чуть ли не дословное и я это запомнил.
Кошка — это священное животное. Она применяется во всех случаях демонстрации второго закона термодинамики — неубывания энтропии в повседневной жизни. Например, как каноническая иллюстрация невозможности однозначно провернуть сгенерированный JIT-компилятором код (фарш) назад в исходный код (кошку).
Восславим Кошку! :)
Немного позанудствую.
Четвертый абзац сначала:
изо лжи следует все, что угодно.
Почитайте статью в википедии
https://ru.wikipedia.org/wiki/Принцип_взрыва
Очень поучительная статья.
Утверждение "из лжи следует что угодно" — прямое следствие из таблици истинности операции импликации.
Таблицы истинности логических высказываний - это 10-11 класс информатики в российской школе. Это есть в ЕГЭ по информатике.
Даже если школа очень плохая и там не было информатики, то на первом курсе технического вуза, на специальностях типа мехмата или информационных технологий обязательно есть предмет "математическая логика" или эквивалентный ему, и там это точно обсуждается на первых же занятиях.
Большой хайп подняли по нейронкам, а всё для стартапов и денег. Кто более плотно работает с ии, понимает его ограничения и что это больше хайп. В ит много было, есть и будет хайпа.
И такое смелое утверждение, например "второй мозг", это крайности. Есть оригинал это челоческий мозг, а нейронка это попытка скопировать часть, предполагаемой структуры, что не есть даже намека, на тот оригинал, который нам спроектировали.
Про большие системы: делай проще как можешь, но при этом сохранить гибкость, понятность, читаемость и однообразие. Только так можно делать одному, большие системы.
Ит ещё в начале пути, многие уйдут, многие придут.
Острая элитистская миопия с самодельным фильтром реальности.
Мне кажется, из всего цикла статей о «халяве», как дискурсе о перспективе, эта статья наименее эмоциональная и наиболее аргументированная. При этом и приятно написана. Лайк, кароч
Это конечно очень интересно, но если произойдут мировые войны, и доступ к электричеству отрубят или дадут только на время, тогда весь этот прогресс остановится... Возможно обратно перейдём к бумагам и голубям
Не согласен с посылом "у любителей архитектуры будет всё зашибись, а у любителей кодить будет всё фигово". Нейронки одинаково помогают и там и там, и одинаково галюцинируют и там и там. У автора в голове почему-то представление что "архитектуру придумать" это сложно, а "код написать" это легко.
Не будет никаких "инженер" vs "кодер". Если нейронки допилят до состояния что они не будут галюцинировать и ошибаться на крупных кодовых базах - лесом пойдут и "кодеры" и "инженеры" и ещё много кто.
Может я не в тех компаниях работал... Но за 15 лет я не встречал случаев, когда текст в Джире включал бы в себя чёткие и понятные требования 🤷♂️
Расслабьтесь, автор тоже не встречал - он просто думает, что где-то такое есть : )
А кодеры - они точно существуют? В смысле, люди - вся работа которых заключается в переложении четких спецификаций от постановщика задач на язык программирования - они существуют?
По моим наблюдениям, индустрия разработки ПО не достигла уровня - для промпроизводства это был бы уровень мануфактуры - на котором можно эффективно задействовать людей с квалификацией кодера: на практике какая-то часть реальных задач для любого разработчика не подходит под описание задачи для кодера "просто взять и закодировать": иногда любому разработчику думать приходится. То есть, индустрия разработки до сих пор осталась на уровне ремесленного производства.
А при такой организации работы заменить какой-то конкретный слой разработчиков на LLM уже не получится, организацию придется менять. Здесь, на мой взгляд, полная аналогия с переходом к машинному производству в промышленности: машины, заменяющие ремесленников делать не получалось, а вот мануфактурных рабочих - вполне.
Ну, а потому и волки никуда не денутся: они ведь мимкрируют не под кодеров, а под разработчиков-ремесленников.
Существуют, да, вполне себе. Мои товарищи в большой компании как раз одни имеют обязанность по требованиям бизнеса создать максимально чёткое техническое задание(откуда взять, куда положить, в какой форме отобразить), тратя по неделе-две на формулирование и согласования, а другие с утра до вечера разгребают десятки подобных присланных задач в таск-менеджере.
Я бы в таком режиме не смог работать, но им норм
эту книгу нас заставляли читать на самой первой работе (это была компания Axmor в Новосибирске)
Чисто из любопытства, а как давно это было? Я просто сам там почти семь лет в ISG работаю, вдруг пересекались?
Те, кто пишет код для себя и как хобби выиграли, а остальные проиграют, по крайней мере на текущем и ближайших этапах. Только вот за написание пет-проектов никому ещё не заплатили.
И нет, автор, ваш мастерство или какое там ещё ЧСВ было написано, тоже никому не будет нужно, вы даже не попадете на собес с человеком, рядом будет 3000 таких же инжинеров стоять на одну вакансию
Порадовало, «аффтор жги исчо» :)
Наконец-то вменяемая статья про влияние нейросетей на разработку ПО.
Как раз на днях со знакомым обсуждали эту же тему.
Судя по комментариям получилось как у Крылова «слона -то я и не приметил…»
Основной посыл статьи: теперь можно делать больше меньшими силами. И что мы увидим расцвет компаний из одного человека.
Если можно сделать больше сложных проектов быстрее и дешевле, то проектов станет больше. Так что тех кто приспособится ждёт светлое будущее :)
Основной посыл статьи: теперь можно делать больше меньшими силами.
Только в ущерб качеству.
И что мы увидим расцвет компаний из одного человека.
Сгоняйте в Китай, там таких миллионы, без всяких нейросетей. Но о качестве производимой продукции складывают легенды. Нас ждет тотальное падения качества и лавинный завал совершенно бесполезных, непригодных к использованию товаров и услуг.
Тут вспоминаетя одна из историй из Автостопом по Галактике, где Зафод рассказывал про цивилизацию которая специализировалась на производстве обуви:
— Много лет назад эта планета была счастливым, полным жизни миром люди, города, супермаркеты, обычная планета. Только на главных улицах этих городов было немного больше обувных магазинов, чем было действительно необходимо. И медленно, незаметно, их становилось все больше. Это хорошо известный экономический феномен, но грустно было видеть, как благодаря ему приходилось производить все больше и больше обуви, чтобы продавать ее в новых магазинах, а чем больше обуви они производили, тем хуже и хуже она становилась. И чем хуже становилась обувь, тем чаще приходилось покупать новую, и тем больше прибыли приносили обувные магазины, до тех пор, пока вся экономика планеты не достигла того, что, как мне кажется, называется Уровнем Обувной Катастрофы, и больше уже не было возможности строить что-либо другое, кроме обувных магазинов. В результате — крах, разрушение, и голод. Большинство населения вымерло. Те немногие, кто имел такую генетическую предрасположенность, мутировали в птиц — ты видел одну из них — и прокляли свои ноги, прокляли землю, которая их носила, и поклялись, что никто больше не будет ходить по ней. Несчастное племя.
У человека нет никакого шанса соревноваться с LLM в трансляции с одного языка (текст в джире) на другой язык (текст на языке программирования).
Да ну! Может быть это мне так не везёт, но из вот этих вот двух мутных строк описания ошибки в джире, видосика экрана и 200 Мб логов она, LLM, вряд ли что-то полезное сочинит. Может, конечно, это мне так не везёт, а у других в джире полное описание ошибки, методов воспроизведения (да, иногда ошибка спорадическая: возникает только время от времени), но у меня на работе приходится сначала 10 раз прочитать, а потом ещё и подойти к тестировщику и спросить, что он конкретно имел ввиду.
И ещё, Автор, вычитайте, пожалуйста, текст! Там ошибка на ошибке! (внутренний граммар-н△ци негодуэ)
"Вся эта документация и проверка относительно десятков «корпоративных стандартов разработки», приемо-сдаточные испытания, проверка кибербезопасности, выкладвание в Реестр Российского ПО, проверка на 4-й уровень доверия ФСТЭК и куча другой бумагомарательной необходимой работы — в идеале будет делаться автоматически."
Вы понимаете, что это одна из проблем внедрения генерирующих нейронных сетей?
Ведь вся эта бумага, вся это "ненужна документация" и "стандарты кодирования" - они все сделаны не для того, чтобы испортить настроение разработчика. Это всё сделано для того, чтобы продуктом можно было нормально пользоваться и его развивать - человеку.
Если вы всё это отдаёте "нейросетям" - значит, можете с тем же успехом всё это просто выкинуть.
Даже хуже - отсутствие документации лучше, чем наличие бессмысленной сгенерированной документации. Которая выглядит почти как настоящая, и на 80% действительно соответствует реальности - а на 20% содержит галлюцинации.
Я бы заменил название класса «Волки» на «Оборотни». Как правильно заметил автор, сегодня эти люди в IT, вчера были в инфоцыганстве, завтра будут еще где-то. В свое время вывел для себя парадокс такого рода людей «Они готовы на все, лишь бы не работать. Даже работать».
Халява приходит в программирование