Семь бед — пихай нейросеть

Раз за разом наблюдаю один и тот же сценарий: у человека есть задача, он её как‑то решает, и это уныло. Например, он ведёт огромную таблицу в Экселе.

Человек думает, как это упростить, и ответ в последнее время всегда один — внедрить нейросеть. Человек идёт к начальству, получает одобрямс и начинает внедрять LLM, но с наскока и в лоб это не срабатывает — нейросеть врёт, теряет контексты, делает не то и не так.

Тогда человек долго и мучительно разбирается, как работают нейросети и почему они не работают так, как ему хочется. Роется в источниках и мучает сами же нейросети, но, цитирую: «они объясняют слишком сложно».

Наконец, человеку кто‑то подсказывает, что нужны агенты. Или скиллы, или ещё какая‑то надстройка над нейросетью. На этом этапе человек начинает писать серию статей о том, как он устал/сумел/не сумел внедрять нейросети и сейчас поделится всем, что узнал. Пишет буквально, как он долго и мучительно внедряет нейросети там, где их не надо внедрять.

Потому что для его задачи существуют готовые, надёжные, проверенные годами, поддерживаемые решения автоматизации. Например, человек внедряет нейросети там, где нужно вести базу знаний или открывать заслонку воздуховода раз в 2 минуты.

Почему это плохо
Потому что база знаний в каком‑нибудь Вики‑подобном проекте займёт несколько гигабайт, а прямо в Постгресс — несколько мегабайт. Уместится на флешку. А с нейросетью нужен сервер за пару миллионов рублей. Или облако за несколько сотен в год. Плюс электроэнергия и настройка, контур безопасности и девопсы. Плюс затраты времени, а значит — денег компании, — на работу с ошибками и разбор последствий этих ошибок.

Потому что открывать заслонку воздуховода раз в 2 минуты можно механически, вообще без всяких серверов, достаточно клепсидры и пары рычагов. Не нужно тратить электроэнергию, вычислительные мощности и нанимать специальную команду, которая будет обслуживать серверную стойку.

Как так‑то? Как‑то так...
Что помешало человеку погуглить спросить у тех же нейросетей, как решать задачу? Нейросети знают про Вики, Конфлюэнс и Постгресс... Что? А бес его знает...

Самое фиговое, что это происходит в мировом масштабе. Миллионы и миллиарды человекочасов и ресурсов уходят в никуда.

Вайбкодите? Тогда мы идём к вам...

Андрей Карпатый из пузыря OpenAI чуть больше года назад сказал: «Я полностью принял вайбкодинг, где забываю, что код вообще существует. Я просто вижу то, что хочу, говорю ИИ, и оно появляется». Сейчас вайбкодинг уже обозвали «методом программирования». Видимо, ждём гуманитарные диссертации на тему «Эволюция программирования: неструктурированное, процедурное и модульное, объектно-ориентированное и вайбкодинг».

Опыт подсказывает, что если жизнь в одном месте стремительно упрощается, то в другом — катастрофически усложняется. Поэтому разберём высказывание товарища Карпатого, поищем, где зарыты мины.

Забываю, что код существует
Чтобы толком что-то навайбкодить, сначала хорошо бы писать код самому. Иначе забывать нечего, и человек просто не поймёт, что можно забыть, а что — лучше не надо. Это как езда на велосипеде: сначала следишь за каждым движением, чтобы получить навык и только потом забыть.

Если взялся вайбкодить, будь готов забыть то, что знал. Программисты с безлимитными токенами сами признаются, что забывают, как писать код руками. Помните, в школе после летних каникул забывали, как пишутся буквы? Вот-вот.

Вижу то, что хочу
Если я вижу айфон, но не представляю, как он устроен изнутри, то что я вижу? Кирпич из стекла и металла. Если вайбкодер не понимает, как его хотелка устроена изнутри, то с ненулевой вероятностью получит такой же кирпич.

Говорю ИИ
Грамотно написанный промпт для ИИ может оказаться длиннее готового кода. Можно с первого раза получить достаточно качественный код, но для этого нужно потратить на инструкцию не меньше времени, чем ушло бы на код вручную. А потом долго договариваться с ИИ, чтобы исправить ошибки. Потому что галлюцинации никуда не делись: ИИ игнорируют инструкции, тянут не те библиотеки, подключают не те сервисы и вообще всячески косячат.

И оно появляется
Вот именно, что оно: смотрите на иллюстрацию, а для тех, кто не владеет парсалтангом, расскажу, что навайбкожено.

ИИ попросили подключить в проект антивирусную проверку. Он запустил контейнер с антивирусом, и если не присматриваться, то антивирус работает. Но там, где файл нужно отправить на проверку, в переводе на человеческий, написано:

• загляни в файл;

• если файл не пустой, напиши, что он проверен;

• если пустой, напиши, что он заражён вирусом.

Антивирус живёт сам по себе, а файл, который надо проверить на вирусы, проверен на наполнение. Чтобы найти эту «мелочь», нужно знать, как всё работает, и потратить кучу времени.

Так что, если вайбкодите, не разбираясь в программировании, то хакеры уже идут к вам.

Киберсанкции

Те, кто разгоняет киберсанкции с обеих сторон, вы правда не понимаете, что растите монстров?

Русские всегда были страшны своим нестандартным, незашоренным взглядом на мир. Настолько, что сборник из одностраничной рубрики «Маленькие хитрости» журнала «Наука и жизнь» перепечатывали как отдельную книгу в других странах. Настолько, что русская инженерия вошла в легенды и анекдоты.

А сейчас нас лишили доступа к мировой киберкультуре. Ну как лишили: попытались. Часть продуктов закрыли с той стороны, часть — с этой. И весь народ, коллективным разумом, думает над преодолением преград.

Вдумайтесь:
— с одной стороны — министерства и ведомства, не важно, чьи. Что их, что наши ограничены в ресурсах, мотивации и специалистах;
— с другой стороны — народ, которого весь мир боится за его нестандартный образ мысли.

И в этом народе растёт новое поколение, которое:
— наблюдает постоянные танцы с бубном над доступами;
— с юных лет умеет оплатить что угодно картами откуда угодно;
— воспитывается в осознании, что преодолевать блокировки — это нормально и даже хорошо.

У нас растёт поколение абсолютных хакеров. Самые башковитые нагнут любую систему, если так продолжится. Астанавитес! Хотя, наверно, уже поздно…