
Вам не кажется, что последнее время программное обеспечение работает не слишком хорошо?
В эти выходные мы столкнулись с двойным ударом: сначала произошёл глобальный сбой сервисов Microsoft, продолжавшийся два дня, а затем Федеральное управление гражданской авиации США (FAA) запретило взлёты, приостановив все авиарейсы в Соединённых Штатах.
Вы можете поверить, что с момента обнаружения уязвимости PHP2Shell прошло всего четыре недели? Это критическая уязвимость в языке PHP, на котором, по приблизительным оценкам, работает 70% сайтов в мире. Некоторые сайты полностью прекратили работу, пока разработчики в срочном порядке патчили системы.
А ещё был фиаско eMudhra: тысячи SSL-сертификатов, защищающих HTTPS-сайты и Интернет-трафик, оказались скомпрометированы из-за комически слабого закрытого ключа.
Похоже, 2026 год стал годом взломов, сбоев, уязвимостей и паники в сфере ИТ. Что же, собственно, происходит?
Возможно, вам захочется обвинить во всём ИИ, но вы будете правы лишь частично. Искусственный интеллект действительно играет здесь определённую роль. Несмотря на то, что такие компании, как Microsoft, не раскрывают, использовался ли ИИ при создании вышедших из строя систем, мы знаем, что хакеры и исследователи теперь могут с помощью ИИ-технологий находить сложные уязвимости буквально за несколько часов.
В своей работе я активно использую ИИ. Это чрезвычайно мощный инструмент. Но при неразумном использовании он также способен разрушать.
Однако ИИ здесь одновременно и причина проблемы, и её симптом. Мы наблюдаем, как программное обеспечение выходит из строя на системном уровне. Проблема коварна: дело не только в том, что само ПО работает неправильно: сломался весь подход, который мы выработали к его созданию.
Что подразумевается под системностью сбоя?
Если присмотреться к недавним кризисам, связанным с надёжностью ПО, можно заметить, что у них нет общих непосредственных причин (по крайней мере, известных нам), и всё же они пугающе похожи друг на друга.
Microsoft
Сбой систем Microsoft, вероятно, начался с ошибки конфигурации сети, из-за которой дата-центры MS перестали обмениваться данными друг с другом. Что именно произошло дальше, до сих пор остаётся конфиденциальным, но, судя по всему, это запустило каскад сбоев: ни одну службу не удавалось восстановить и вернуть в работоспособное состояние достаточно надолго, чтобы она могла обрабатывать трафик.
Пользователи Reddit и Bluesky предположили, что даже инженеры MSFT не до конца понимали сложность произошедшего сбоя и не могли взять ситуацию под контроль.
Платформа Azure компании Microsoft всё чаще подвергается критике из-за своей (не)надёжности. Ещё в марте бывший инженер Microsoft Аксель Ришин опубликовал разгромную статью:
В условиях сильного конкурентного давления Microsoft вынуждена была поспешно выпустить Azure. Компании пришлось срезать углы и втихомолку закрыть глаза на нарушение фундаментальных принципов надёжности и простоты эксплуатации.
Вместо того, чтобы вернуться в начало и решать проблему растущего технического долга, Microsoft ограничилась точечными исправлениями: слои автоматизации выполняли скрипты устранения неполадок, рос штат дежурных инженеров, а когда автоматизации оказывалось недостаточно, компания прибегала к починке вручную.
В статье Акселя описывается сложная система, построенная из низкокачественных деталей, в которой никто не знает общей картины.
Ситуация с PHP
21 октября этого года фирма Wiz, занимающаяся исследованиями кибербезопасности, с гордостью опубликовала эксплойт, позволяющий исполнять произвольный код на любом веб-сайте с PHP. Фирма Wiz, назвавшая уязвимость PHP2Shell, громко заявила о возможностях инструментов ИИ, позволяющих создавать эксплойты, которые намного превосходят по сложности то, на что способны живые злоумышленники.
Как оказалось, в среде исполнения PHP более десятка лет скрывалось множество багов в механизмах управления системными ресурсами. PHP широко используется в электронной коммерции и, наверно, наиболее известен благодаря платформе WordPress, которая когда-то была самым популярным решением для экономного создания простых сайтов.
В статье Wiz об уязвимости PHP2Shell Интернет представлен как система, зависящая от длинной цепочки зависимостей, скрывающих уязвимости настолько сложные, что их не может обнаружить ни один человек.
Атака Shai Hulud, май 2026 года
Большинство людей за пределами сферы ИТ об этом даже не слышали, но в мае мы столкнулись с кризисом: злоумышленник скомпрометировал несколько важных пакетов в экосистеме JavaScript (NPM).
Эти пакеты использовали GitHub Вдля организации непрерывной интеграции (CI) — автоматического запуска тестов, выпуска новых версий и других подобных задач. При этом в их конфигурации была критическая ошибка: любой, кто создавал форк проекта, мог внедрить в исходный проект скомпрометированный код.
При запуске новой сборки CI в основном репозитории она загружала библиотеки из кэша. Менеджер пакетов JavaScript NPM позволяет этим библиотекам содержать скрипты. Предполагается, что они выполняют вспомогательные задачи, однако в данном случае с их помощью перехватили секретные токены проектов.
Экосистему JavaScript уже давно критикуют за низкий уровень безопасности. Проекты NPM представляют собой сложные цепочки зависимостей: одни зависимости вызывают другие зависимости, те вызывают следующие, и так далее.
Любая зависимость может содержать скрипты. Автор любой зависимости мог одним неверным действием допустить компрометацию своего кода. Для этого достаточно было скопипастить не тот фрагмент кода.
Иными словами, это чрезвычайно сложная система, состоящая из низкокачественных деталей, в которой одна-единственная ошибка может поставить под угрозу всё.
Как мы потеряли контроль
Раньше всё было иначе. Всего 12 лет назад отрасль ИТ выглядела совершенно по-другому.
Разработка программного обеспечения была сложной задачей. Компьютерные программы состоят из миллионов крошечных команд, и превращение их в работающую систему походило на ручную сборку часов из сотен взаимодействующих друг с другом деталей. Только, в отличие от часов, каждая компьютерная программа должна выполнять что-то совершенно новое и непохожее на всё остальное.
Это было самое увлекательное занятие в моей взрослой жизни. Разработка программного обеспечения была в равной степени и искусством, и наукой. Нужно было уметь одновременно держать в голове всю систему целиком: представлять, как множество крошечных элементов можно объединить в единое целое. Я рекомендую каждому испытать пройти путь создания компьютерной программы вручную.
Но для менеджеров в те времена ситуация была не такой весёлой. Не так много людей умеют писать программы качественно, а масштабировать работу людей очень сложно. Добиться того, чтобы они общались друг с другом и не допускали недопонимания, тоже непросто. Многие проекты терпели неудачу. Можно найти программистов, умеющих справляться со сложностью, но им придётся платить большие деньги.
Эту фундаментальную проблему пытались решить при помощи различных подходов. Кто-то считал, что помочь могут методики разработки программного обеспечения: например, если превратить программирование в набор строго структурированных шаблонов, основанных на «лучших практиках». Или использовать такие подходы к управлению проектами, как SCRUM. Но всё это помогало лишь в ограниченной степени.
Около десяти лет назад в нашей отрасли произошли две небольшие революции, на которые остальной мир почти не обратил внимания: появление облачных вычислений и опенсорсных библиотек.
Суть облачных вычислений заключалась в том, чтобы заменить собственное оборудование и инфраструктуру виртуализованной инфраструктурой, которую можно арендовать у сервисов наподобие Amazon Web Services. Достаточно было нажать кнопку в AWS, и словно по волшебству из ниоткуда появлялся сервер.
Компании полюбили облачные технологии, потому что они позволяли избавиться от системных администраторов и специалистов по эксплуатации. Больше не нужно было ждать, пока кто-нибудь физически доберётся до площадки и установит стойку в дата-центре. Технология обещала, что ПО сможет развиваться с той же скоростью, что и код. Вскоре после этого возникло движение под названием DevOps, которое в итоге объединило разработчиков и специалистов по эксплуатации.
А затем начался бум опенсорса.
Повторно использовать чужой код можно было и раньше: программисты обменивались фрагментами кода на форумах и таких сайтах, как StackOverflow. Но когда в 2014 году появились инструменты вроде NPM, это действительно стало похоже на революцию. Достаточно было добавить одну строку в файл package.json, выполнить команду npm install, и всё — теперь можно многократно использовать код, написанный незнакомцем из Интернета.
Команды разработчиков полюбили NPM (а также PyPI, Maven и другие подобные инструменты), потому что теперь им не приходилось самостоятельно решать сложные задачи, если кто-то уже решил их до них. Раньше все маленькие компоненты программы (шестерёнки и колёсики из моей аналогии с часовым механизмом) изготавливались вручную. Теперь можно было бесплатно и навсегда получить готовые шестерёнки, колёсики и даже целые механизмы.
Благодаря этому программистам можно было уделять меньше внимания деталям. Вместо того чтобы разбираться во всех тонкостях, например, написания кода для проверки пароля, можно было просто поручить эту задачу NPM и другим инструментам.
Опенсорс был прекрасен тем, что небольшая группа увлечённых разработчиков, не получавших за свою работу денег, создавала код, от которого зависели все остальные. На их коде можно было зарабатывать миллионы долларов, и при этом даже не нужно было особо уважать их труд. (Так обычно и поступали.)
Но за это пришлось расплачиваться тем, что разработчики перестали разбираться в деталях. Они были вынуждены отказаться от контроля. Если пакет NPM оказывается скомпрометированным или его автор преследует какие-то собственные цели, то у всех пользователей пакета возникнут проблемы.
Изменения в культуре
Так как теперь нужно было заботиться о меньшем количестве деталей, ИТ-специалисты начали утрачивать узкую специализацию. Больше не требовались отдельные команды системных администраторов и специалистов по эксплуатации, бэкенд-разработчиков, разработчиков мобильных приложений и тестировщиков. Всех их можно было заменить универсальными специалистами.
Это изменило баланс сил между работниками и руководством.
Представьте строительную площадку, на которой работают сантехник, строитель и электрик. Если кто-то из них пригрозит уволиться, у организатора возникнут проблемы: для завершения проекта нужны все трое. Но если сделать каждого специалиста универсалом, способным выполнять работу сантехника, строителя и электрика, у них станет гораздо меньше возможностей влиять на ситуацию.
Мнение о том, плохо это или хорошо, вероятно, зависит от политических взглядов. Но как бы то ни было, постепенно это приводило к тому, что люди, непосредственно занимающиеся работой, утрачивали влияние. И это именно те люди, которые способны первыми забить тревогу, когда что-то начинает идти не так.
К 2016-2017 годам появились признаки того, что в общей структуре опенсорса есть слабые места.
Одним из первых предупреждений о том, к чему всё идёт, стал инцидент с left-pad. Автор одной из библиотек в запутанной сети экосистемы JavaScript, состоящей из бесчисленных зависимостей, удалил свои пакеты из-за юридического конфликта. В результате поломались проекты практически всех остальных разработчиков.
Однако в целом нам удавалось справляться с ситуацией. Даже после цикла найма и увольнений в постковидный период и таких случаев, когда когда мы оказывались на краю катастрофы (например, в случае бэкдора в XZ Utils), технологическая отрасль по большей мере оставалась стабильной благодаря целым армиям добросовестных разработчиков и специалистов по эксплуатации по всему миру.
А потом появился ИИ
…И да, теперь появился ИИ.
Уже многое написано о том, что неотъемлемой недетерминированности ИИ-систем; они похожи на игровые автоматы, которые лишь создают симулякры работы. Сторонники этой точки зрения утверждают, что, подобно стохастическому попугаю, ИИ всегда будет генерировать код, подверженный галлюцинациям и ошибкам.
И в этом есть доля правды. Но я считаю, что сегодня опасность заключается в обратном. Дело не столько в том, что модели выдают некачественные и ненадёжные результаты. На самом деле они довольно хорошо справляются с тем, что им поручают (хотя я подозреваю, что во многом это объясняется тем, что Anthropic и другие компании щедро субсидируют вычислительные мощности).
Я считаю, что настоящая угроза ИИ — это рассогласованность (decoherence).
Кристен Мэйвин написала эссе под названием The Decoherence Trap, в котором рассказывает об этой проблеме: отдельные компоненты системы могут выглядеть вполне исправными сами по себе, но при этом не вписываться в общую систему и не иметь смысла в её контексте.
Рассогласованность — накопление в системе локально корректных, но взаимно несовместимых или избыточных моделей, при котором основные затраты на внесение изменений связаны с необходимостью согласовывать эти модели между собой и предотвращать непреднамеренные побочные эффекты.
В этом году я наблюдал, как разработчики практически полностью передали свою работу ИИ-агентам. Всё начиналось с небольших задач: написания тестов, функций и отдельных компонентов. Но теперь им поручают всё — не только создание компонентов, но и проектирование, оркестрацию, разработку самой концепции.
Раньше программирование заключалось в превращении идей и намерений хаотичного человеческого мира в код настолько кристально ясный, точный и педантичный, что его мог выполнить даже компьютер. По своей сути это был процесс преобразования сложности в упорядоченную систему, создания чего-то реального из ничего.
Эта деятельность стремительно умирает. В большинстве технологических компаний она больше не ведётся.
Сегодня большинство инженеров-программистов (SWE) уже не способны решать инженерные задачи без той или иной помощи ИИ. И дело не в их некомпетентности, просто они больше не могут удерживать под контролем всю сложность системы. Даже если им удавалось это раньше, теперь им приходится иметь дело с цунами кода, сгенерированного ИИ. Это затрагивает всех, независимо от уровня квалификации: мы все боремся с потоком мелких несогласованных изменений, каждое из которых по отдельности выглядит разумным, но постепенно вся система в целом теряет смысл.
Кристен пишет следующее:
Степень рассогласованности нарастает пропорционально скорости изменений в системе. Чем сильнее система уже рассогласована, тем быстрее растёт рассогласованность, что приводит к неконтролируемому экспоненциальному росту. Это не новое явление: люди всегда боролись с ним, тщательно находя способы добиваться большего меньшими средствами, объединяя разрозненные шаблоны и модели в единое целое. Однако сегодня широкое применение ИИ порождает рассогласованность с неприемлемо высокой скоростью.
Возникла своего рода выученная беспомощность, сопровождаемая парадоксальной ложной уверенностью в собственных силах вследствие того, что LLM создают иллюзию проделанной работы, не заставляя нас при этом вникать в детали.
Такая утрата навыков у инженеров-программистов ещё сильнее смещает баланс сил не в пользу разработчиков, и теперь они уже не могут вовремя забить тревогу. В худшем случае ИИ превращает IT-специалистов в «мясных прокси» (meat proxy), которые целыми днями подбирают промпты, а затем позволяют Claude решать, действительно ли работа выполнена.
Систематическая порча
И это касается не только программистов, но и всей цепочки, сверху донизу. ИИ пользуются все, и особенно в Big Tech.
Claude генерирует код, потому что разработчик написал промпт. Промпт написан на основе тикета, созданного Claude. Проект-менеджер написал тикет на основании краткой сводки документа; и сам документ, и его краткую сводку составил Claude. В документе используется статистика из расчётов Claude. Для бизнеса главное рынок акций, а рынок акций отдаёт приоритет кратковременным трендам в ущерб долговременной разработке.
Похоже на правду? Если это и карикатура, то не такая уж и чрезмерная.
Я считаю, что технологические компании рискуют утратить свою «организационную способность мыслить» — способность рассуждать и действовать как единое целое.
В этом и заключается настоящая угроза: может возникнуть ситуация, когда в системе ничто не делается осознанно и никто не контролирует происходящее. Мы создаём сложность быстрее, чем успеваем с ней справляться.
Посмотрите на проблемы, которые я описал. Все они связаны с чрезмерно сложными системами, состоящими из деталей, каждая из которых должна работать безупречно, иначе всё рушится. При этом сами детали постепенно разрушаются из-за попыток срезать углы, сокращения расходов, излишнего усложнения, чрезмерной зависимости от неоплачиваемого труда и, чего я особенно опасаюсь, выученной беспомощности людей, создающих цифровую инфраструктуру.
Что поставлено на кон?
Это угроза для каждого из нас. Сегодня технологическая отрасль играет важнейшую роль в повседневной жизни. Программное обеспечение управляет авиаперелётами, банковскими операциями, насосами на автозаправках, телевизорами и расчётом зарплаты. Оно помогает прокладывать маршруты и находить друзей. С его помощью мы ходим на свидания, заказываем еду и даже читаем этот текст.
Общество доверило техническим системам слишком многое, и теперь эти системы демонстрируют признаки системного упадка. Я не думаю, что общество, государство или различные институты готовы к миру, в котором произошедшие в 2026 году инциденты и сбои станут обыденностью. Они тоже продолжают наращивать цепочки зависимостей, допущений, сложности и неоправданного доверия. Каждый новый уровень, каждое звено в этой цепочке становится ещё одной точкой атаки, которая может поставить под угрозу всё, что находится выше.
Для Интернета настал переломный момент. Создаваемое нами ПО недостаточно понятно нам, чтобы нести ту ответственность, которую возлагает на него мир. Мы убеждаем себя, что революция ИИ проходит успешно, и главным доказательством считаем скорость, с которой мы создаём новые уровни сложности. Тем временем постепенно разрушаются несущие конструкции всей этой экосистемы — опенсорсный код и решения, основанные на профессиональном опыте.
Думаю, мы находимся лишь в начале очень болезненного периода. Это не временный сбой и не аберрация — это новая норма.
