Про LLM и мир костылей

Когда-то от программиста требовалось знать команды процессора. Потом оказалось, что количество нужных комбинаций не такое уж большое, и их можно упаковать в инструкции на ассемблере. Разработчику потребовалось знать только их. Потом стало понятно, что и сами эти инструкции складываются в типовые паттерны: ветвления, циклы, вызовы, и появились языки высокого уровня. Позже типовые задачи управления памятью, потоками и сетью спрятались в рантаймы и фреймворки. Каждый раз предыдущий слой превращался в черный ящик, и программист переставал думать о том, что внутри.

По большому счету, весь прогресс индустрии разработки, да и всей инженерии, и вообще любого производства, укладывается в создание таких черных ящиков, которые прячут сложность, позволяя обменивать технологическую прозрачность на скорость и деньги. Мы находим подходящее решение, наглухо заколачиваем его в ящик, выводим наружу пару ручек для контроля и больше никогда не думаем о том, как оно там внутри крутится.

Появившиеся LLM ничего принципиально в этой логике развития технологий не меняют, а лишь надстраивают новый этаж абстракции. Это мощный механизм быстрого поиска среди существующих в мире решений и последующей инкапсуляции их в новые черные ящики, но не более.

Черные ящики технологий, неважно, созданы они человеком или роботом, никогда не содержат идеальных решений, хотя бы потому, что были собраны в определенных исторических и социальных условиях. Они несут на себе отпечаток целей, ценностей и ограничений, актуальных в момент их создания. Реальность и требования бизнеса ушли вперед, а внутри абстракции навсегда застыл слепок ушедшего момента, который со временем становится неприкасаемым индустриальным стандартом.

Поэтому появление того, что в IT-разработке принято называть «костылями», неизбежно, а архитектура может быть «чистой» только в момент создания и только относительно тех условий, под которые создавалась. Это касается и технологий в узком инженерном смысле, и любых социальных практик или бизнес-процессов в широком. Весь наш человеческий мир состоит из костылей, которые невозможно устранить, а только заменить на другие.

Регулярно пишу в Телеграм-канале Chief Philosophy Officer  и VK группе о философии бизнеса.