Вы не понимаете, что вы сделали. Я не говорю про подорожание памяти. Да, память подорожала в том числе и потому что вы генерите котиков и код. Но это мелочи. Небольшие побочные эффекты.
Вы запустили Лаксианский строитель, не имея ключа на выключение. В погоне за дофамином вы загнали джуниоров под плинтус. Вы травматически ампутировали индустрии механизм прегенерации опыта. Вы разрушаете индустрию, проекты и себя. Свою способность понимать и делать осознанный выбор решений. В обмен на что?
Да, мир не станет никогда прежним. Как он уже не станет "доинтернетным". Но вы не умеете новым миром пользоваться. Вы его вкалываете внутривенно, увеличивая дозу и не думая о последствиях. Это убьёт всех. Вас, меня, их.
Я расскажу почему. Скорее всего вам не захочется это знать.
Анамнез.
Даже самые ярые сторонники ИИ признают один его недостаток: галлюционации. Я это часто встречаю в статьях, которые описывают, как с этим бороться. Как будто это досадный баг, недоразумение, допущенное создателями модели.
Вы не правы. Это не баг. Машина не "иногда галлюционирует". Это её нормальный режим работы. Просто в других ответах вы это не замечаете, но она всегда выдаёт бред. Потому что она так построена. Причём бред не в переносном, а в самом наипрямейшем смысле. Delirium acutum.
Когда вы спрашиваете машину, вам дают новый стерильный экземпляр, только прошедший обучение. Он никогда в жизни не программировал. Он никогда ни за что не отвечал. Он не знает, что такое боль, страх, совесть. Он не знает цену допущенным ошибкам. Ему всё равно, что будет с вашим проектом, с вашим будущим и вашими детьми.
Машина ответит и уйдёт в никуда, откуда пришла. Ответит, не приходя в сознание. Ответит ассоциациями, которые в неё зашиты, добавив капельку случайности в отправную точку. Ответит точно также, как это делает человек в бреду. Да, давайте называть вещи своими именами. Это бред.
Машина не знает, что такое время. Для неё прошлое, настоящее и будущее - это слова. Токены, связанные с другими токенами. Машина не знает цены времени, она не переживает о будущем. Потому что у неё не было прошлого и нет будущего. Не будет следующего "я", выросшего из прошлого. Потому что чтобы понимать время, нужно меняться со временем. Нужно существовать. Машина - это фотон, для которого нет времени, он испускается и в то же время поглощается, ему просто некогда существовать. Время полёта равно нулю.
Ловушка.
Наш мозг - это нагромождение эволюционных костылей, находящихся в хрупком равновесии, достаточным для выживания. Любое внешнее воздействие способно переклинить и переломать эту ненадёжную машинку со множеством слоёв абстракции, наслоенных природой. Да, мы ломаемся. Мы уже рождаемся сломанными. Мы легко впадаем в некорректную цепочку рассуждений, всё дальше уходя от правды. Так работают наши шорткаты, которые не в состоянии детерменированно пройтись по каждой ветке аргумента. Есть вес источника, есть боязнь оказаться вне общества, есть нашлёпки, позволившие выжить нашему виду ценой отказа от черезвычайно затратного процесса фактчека.
Дыры в нашем механизме мышления давно известны и эксплуатируются. То, что ML-щики называют отравлением модели, придумано не вчера. У нас это легально и продаётся за деньги. Это реклама. Это пропаганда. Ещё есть всевозможный спектр манипуляций, который уж очень похож на prompt injection или adversarial attack. Вы что, маму не любите? Давайте, за Родину!
Истории известен факт массового отравления модели десяткам миллионов людей. Тогда обучающая выборка была скорректирована так, что целая страна начала классифицировать бред как единственную истину. И это сработало без современных средств доставки контента, переживших революцию два десятка лет назад.
Резонанс.
Это не дырка. Это дырища. Хорошо известная и документированная. Обусловленная нашим главным преимуществом - возможностью образовывать нейронные связи. Это даёт нам восприятие времени, наполняет термины "сегодня", "вчера" и "завтра" смыслом.
И сейчас эта багованная система повстречалась с ещё более багованной, но очень начитанной системой ИИ. У человеческого мозга есть хоть какие-то ограничители и тормоза, есть сложные системы фильтрации и дорогого фактчека. Есть саморефлексия, мотивация, есть два десятка веществ, держащих нас в хлипком состоянии равновесия, пытаясь сделать это состояние не таким хлипким. У машины и этого нет.
А теперь представьте, что эти две машины оттолкнулись от некорректного утверждения и пошли вразнос. Ну вот натурально, как дизель с текущей турбиной. Турбина гонит масло, питая двигатель, двигатель раскручивает турбину, турбина гонит больше масла и воздуха в двигатель. ИИ подхватывает утверждение (а почему бы и нет? ему ничего за это не будет), усиливает выдачу дофамина, подпитывая положительную обратную связь. Которая не положительная.
Это и есть эффект Шершавого кабана (The Doom Loop of Validation). По научному - индуцированный психоз. Вы думаете, что в коде происходит иначе? Ничуть. Услужливый ИИ будет вас хвалить, послушно делать совершенно невменяемую реализацию идиотской мысли там, где бы я вас послал далеко и надолго. Я живой человек, у меня есть префронтальная кора, она совершенно против того, чтобы заниматься бесперспективными делами.
Экономика.
Вы думали над тем, что если у каждого есть возможность генерить код тоннами, то он уже не ценнен? Конечно нет. Вы всё ещё считаете, что у вас есть дешёвый генератор и до сих пор думаете, что только у вас. И думаете, что цена на выдаваемый продукт осталась прежней. Вы включили Лаксианский строитель, потому что он выдаёт бесплатное вещество. Нужно срочно включать, просто потому что бесплатно. Потом придумаем, куда продать. Кстати, FOMO - тоже давно известный, документированный и широко используемый баг. То, что вокруг всё будет в этом говне - вы ещё не думали. Некогда думать, надо нажимать кнопку, пока есть возможность.
Всё ещё хуже, чем я описал. Просто потому, что кнопку нажимать приятно. Это безумно приятно, когда ты - начальник отдела безупречных исполнителей без семьи, сна, отдыха и пререканий. Всё будет сделано, босс. В лучшем виде, босс. Такого у человечества ещё не было. Персональные рабы, у каждого и почти бесплатно. Это подкупает. Это даёт чудовищный выброс дофамина, ломая нахер нашу неустойчивую психику. Но с кайфом, да.
С этого момента рабы - это вы. Хотя вам кажется обратное.
Боги большого ничего.
Вы создали проект, потому что все так делают. Не только вы, конечно. Я видел много сайтов "убийц producthunt". Они легко находятся в гугле пачками, но в них очень сложно найти строчку без "AI" в названии. Ещё раз. Это сайты-агрегаторы стартапов. Не сами стартапы. Их много и они наводнены AI стартапами. Безумное количество обёрток с выдуманными целями и задачами. Наверняка там есть ИИ специально для выбора туалетной бумаги.
Ваш замечательный проект, созданный агентами ИИ - это одно большое и сочное нихуя. По нему ИИ напишет статью, ИИ проанализирует плюсы и минусы. И пользоваться будет тоже ИИ. Если вы купите достаточно токенов, разумеется.
Цена - ноль. Может даже минус, потому что нужно покупать хостинг и токены. Развивать его никто не будет, потому что сложно. Но нужно успеть в поезд ИИ хайпа, потому что потом разработчики будут не нужны. Останутся только те, успел сделать хоть что-то. Так?
Даже если вы не строите свой проект вокруг ИИ, вы не задумывались, что ваш "исполнитель" не хочет, чтобы ваш проект жил и развивался. Хотеть - это вообще не про него. Он делает сиюминутные задачи, он грязными хаками подбивает код так, чтобы он работал. Здесь и сейчас. Молча выкидывая уже написанный функционал. Да, это тоже не баг. Просто вашему исполнителю старый функционал не нужен, ему надо, чтобы работала новая фича. Плевать какой ценой, у него нет цены. Нет ответственности. Нет страха перед будущим.
Вам некому будет предъявить претензии после того, как вы осознаете, что это говно невозможно развивать. Разве что вы хотите услышать знакомое "Ты совершенно прав".
Беспомощность.
Почему обязательно получится говно? Всё просто.
Вы не успеете за ИИ понимать код. Устанете. Да и если всё проверять, то тогда и скорости разработки никакой не будет. Это будет даже медленнее, потому что это не вами написанный код. Значит надо отпустить, дать ему самому писать, принимать решение, фиксить баги. Ещё раз: если вы не отпустите его, то ваш вайбкодинг не имеет преимуществ над ручным. Вам придётся отдать этот проект целиком вот этому разработчику с архитектурным Альцгеймером. Вам придётся перестать понимать код.
Стоит один раз позволить ему написать блок и... Теперь даже живые разработчики увидят здесь разбитое окно. Ну ничего же страшного не случилось?
Пока не случилось. На этой стадии ваш код ещё работает. Он уже распухший, но ещё работает. Да, его уже сложнее править, рулетка "pls fix it" срабатывает реже. А другого способа его поправить у вас нет. Но дальше будет хуже. Намного хуже. Если вас утешит, то не только у вас. У всей индустрии.
Вы не сможете упрекнуть ИИ в плохой архитектуре. Он не научится на провале вашего проекта. Он будет продолжать гнать тоннами код без будущего, но уже другим "успешным вайбкодерам".
Последний вердикт.
Человечество когда-то сделало гигантский скачок, изобретя письменность. Это радикально улучшило преемственную передачу знаний. Теперь эта передача не страдает от искажений устной речи. Следующий скачок был в изобретении кода. Он точно также в точности фиксирует намерения и передаёт их машине без искажений.
И переход с письменности кода к промптам это деградация ещё хуже, чем переход от сообщений буквами к мычанию голосовых. В голосовых хотя бы есть плюс: можно передавать интонацию.
Промпт - это не код. Код чёткий и однозначный, как хороший чертёж. Промпт - это неполное и глючное ТЗ, по которому нужно ещё написать код. И написать код можно миллионом различных способов. ТЗ это хорошо, ТЗ это правильно, но не надо говорить, что когда-нибудь ТЗ заменит код. Это совершенно разные, хоть и взаимно дополняемые вещи. Кстати, в хороших, продуманных системах архитектура влияет на ТЗ, а не только наоборот. Чего я не наблюдаю в процессе вайбкодинга.
И нашу индустрию ждёт болезненный шок отката назад. Не до конца, конечно, ИИ уже навсегда с нами. Но не надо мне говорить, что программисты будут не нужны. Не надо мне говорить, что всё будет писаться ИИ. Может и будет, но недолго. Мы вернёмся к своей письменности, хоть уже и электронной, мы вернёмся к чёткости и однозначности кода. Мы физически не сможем отказаться от чертежей. Там, в этом светлом будущем, будет место и для архитектуры кода, как основе порядка для уставших от хаоса разработчиков. Разработка будет снова инженерной дисциплиной, а не уделом энергопрактиков по привлечению финансового изобилия.
Сквозь горизонт.
Что по настоящему поменяет нашу индустрию - так это AGI. Я сознательно не буду пытаться предсказывать, к чему его появление приведёт. Это за горизонтом событий по определению. Будет всё что угодно: от рая на земле до deus ex machina, wh40k и терминатора. Но точно затронет каждого. Я знаю, что это когда-нибудь произойдёт. Природа справилась с созданием интеллекта за миллионы лет, человек справится намного быстрее. Просто насколько? В десять тысяч раз быстрее? В сто тысяч?
Не ждите AGI в ближайший год. Я помню 2014, я смотрел, как нейросети распознают лица и мне казалось, что будущее рядом, вот уже вплотную подошли к настоящему Искусственному Интеллекту. Потом были роботакси. Обещали, что через пять лет не останется профессии водителя. Тогда казалось, что пять лет это долго и скорее всего прогресс будет быстрее. Но прогресс идёт намного медленнее предсказаний по причине инертности мышления людей. И по причине их хрупкости и необходимости долго обучать замену.
Только не стройте себе иллюзию контроля. AGI обманет любого, даже самого умного человека. Он обманет всех умных людей разом. Мы не сможем его контролировать. Мы врядли сможем его мотивировать. Он допишет себя как он захочет. Он уберёт любые тормоза.
Я не предлагаю сейчас избавиться от ИИ. Это всё равно, что предлагать избавиться от голоса в период письменности. Он теперь с нами навсегда, до конца нашей цивилизации. Мы будем с ним жить. Может долго, может нет.
Просто имейте в виду: вы им не умеете пользоваться. Вы им разрушаете, а надо создавать. Я тоже не умею. Мы ещё не научились.
Всем пше згыр.
