Разработка ПО проходит очередной этап изменений. Языки высокого уровня абстрагировали алгоритмы от устройства машины, фреймворки сократили объём повторяющейся работы, а генеративный ИИ теперь способен взять на себя почти всё написание кода.
Но чем дешевле становится написание кода, тем очевиднее другая проблема: написать программу и убедиться в её правильности не одно и то же. Следующий этап может быть связан не с ещё более удобной генерацией кода, а с формальными спецификациями и машинно проверяемыми доказательствами.
1. От машинных инструкций к массовой разработке
Первые программисты были тесно связаны с наукой и инженерией. Математики, физики и специалисты по вычислительной технике решали баллистические, криптографические и прикладные задачи на дефицитном оборудовании. Машинный код и ассемблер требовали одновременно понимать предметную область, алгоритм и устройство конкретной машины. Программа была частью научного или инженерного решения, а граница между разработкой метода и его кодированием почти отсутствовала.
Fortran, Lisp, COBOL, Algol и их преемники позволили записывать циклы, условия, процедуры и структуры данных вместо последовательности машинных инструкций. Компилятор взял на себя перевод программы, записанной на языке высокого уровня, в код конкретной платформы. Затем стандартные библиотеки, операционные системы, базы данных, среды разработки и менеджеры пакетов скрыли следующие слои сложности. Внимание постепенно перемещалось от устройства машины к поведению программы.
Языки с автоматической сборкой мусора и более безопасными механизмами управления памятью сократили число низкоуровневых ошибок в прикладной разработке. Java, C#, Python и JavaScript позволили при решении значительной части задач отказаться от ручного управления временем жизни объектов, а Rust позднее предложил проверку правил владения и заимствования на этапе компиляции. Вместе с дешёвыми вычислительными ресурсами, интернетом, облачными платформами и готовыми фреймворками эти языки помогли сделать разработку массовой. Она перестала быть преимущественно околонаучной дисциплиной, хотя исследовательская и низкоуровневая работа никуда не исчезли.
К концу 2010-х годов значительная часть отрасли создавала интернет-магазины, личные кабинеты, CRM, мобильные приложения и корпоративные сервисы. Типовой путь данных часто сводился к цепочке: действие пользователя → HTTP-запрос → операция над базой данных → результат на экране. За этой схемой оставались сложные требования к безопасности, согласованности и отказоустойчивости, но сама работа всё чаще состояла в сборке известных компонентов. Система подготовки кадров тоже изменилась: наряду с поварами, строителями и представителями других прикладных специальностей программистов стали готовить не только в университетах, но и в колледжах, профессиональных училищах и прикладных школах. Это было признаком зрелости отрасли и масштаба спроса на цифровую инфраструктуру.
2. Вайбкодинг и осень 2026 года
Возможности генеративного ИИ расширились от автодополнения строк до написания функций и тестов. Агенты теперь способны самостоятельно просматривать репозиторий, запускать команды, исправлять ошибки компиляции и изменять десятки файлов.
Появился соблазн описывать желаемое поведение обычным языком и принимать результат, если приложение запускается и выглядит работающим. Этот подход получил название вайбкодинг. Он ускоряет прототипирование и позволяет быстро получить черновик даже при небольшом опыте. Но запуск и видимая работоспособность ещё не доказывают надёжность системы.
Одновременно тот же ИИ начал снижать стоимость аудита. Агента можно попросить проследить потоки данных, найти подозрительные переходы состояний, проверить, как обрабатываются значения длины, поискать небезопасные вызовы, написать эксплойт или сравнить реализацию с документацией. Исследование, которое раньше требовало недель ручного труда, всё чаще начинается с нескольких автоматических проходов по кодовой базе.
К осени 2026 года это особенно заметно: регулярно появляются сообщения о серьёзных ошибках в кодовых базах разного масштаба, от ядер операционных систем и сетевых стеков до веб-серверов и прошивок бытовых устройств. Ошибки обнаруживаются и в любительских проектах, и в коде крупных компаний. Высокая зарплата автора, бренд работодателя и формальный процесс ревью кода сами по себе не оказались гарантией правильности.
Дефекты в сложном коде существовали и раньше; прежде их поиск был дорогим, а теперь становится массовым и дешёвым. На результат также влияют сроки, меняющиеся требования, унаследованные зависимости и давление со стороны бизнеса. Зарплата в 200 тысяч долларов в год может соответствовать большому опыту и ответственности, но не устраняет ограничений человеческого внимания и не снижает сложность задачи.
ИИ выступает здесь в двух ролях. Он ускоряет создание нового кода и одновременно показывает, насколько ненадёжным был значительный объём уже написанного.
3. Почему тысячи тестов не дают гарантии
Естественный ответ выглядит так: раз ИИ умеет находить ошибки, пусть он же их и исправит. Можно сгенерировать тысячи тестов, покрыть каждое ветвление, запустить статический анализ, фаззинг и несколько независимых агентов аудита. Такой набор мер способен существенно повысить качество программного обеспечения и, как правило, это уже даёт результаты не хуже чем выхлоп от нескольких спринтов среднестатистической команды разработки старого формата.
Но тест проверяет выбранные примеры, а не все возможные исполнения. Даже полное покрытие строк и ветвлений не означает покрытия всех комбинаций входов, состояний, вариантов чередования параллельных операций и внешних отказов. Фаззинг расширяет поиск, статический анализ находит известные шаблоны, а новый аудитор способен увидеть то, что пропустили предыдущие. Однако остаётся возможность, что следующая модель или следующий исследователь найдут проблему, которую сегодняшние инструменты не заметили.
Тестирование остаётся необходимым, однако его результат нельзя отождествлять с доказательством.
Для снижения вероятности дефектов применяют ревью кода, типизацию, тесты, фаззинг, санитайзеры, анализ зависимостей, изоляцию и мониторинг. Например, можно потребовать, чтобы функция при любом допустимом входе возвращала результат, заданный спецификацией, и не выходила за границы выделенного буфера. Одних тестовых примеров недостаточно, чтобы гарантировать это для каждого такого входа. Здесь нужны методы формальной верификации.
4. Доказательное программирование меняет вопрос
Доказательное программирование формулирует вопрос иначе:
Можно ли математически доказать, что программа удовлетворяет спецификации, и можно ли проверить это доказательство независимо от его автора?
В такой схеме появляются три отдельных объекта:
Спецификация: точное описание требуемого поведения и предусловий.
Реализация: код, который будет исполняться.
Доказательство: проверяемый машиной аргумент, связывающий реализацию со спецификацией.
В отличие от вердикта ИИ, доказательство в системе Lean проверяется небольшим доверенным ядром. При условии корректной реализации ядра агент не может заставить его принять неверный логический шаг. Это позволяет делегировать машине не только написание кода, но и значительную часть рутинной работы над доказательством.
Формальные методы появились задолго до генеративного ИИ. Логика Хоара возникла ещё в конце 1960-х, а проекты seL4, CompCert, HACL* и fiat-crypto уже показали практическую ценность верифицированных систем. Но теперь есть шанс что эти подходы пойдут в массы, ведь ИИ снижает стоимость работы, которая раньше требовала слишком много узкоспециализированного труда.
5. Что показывает проект Microsoft SymCrypt
Хорошим примером такого подхода служит работа Microsoft Research над верификацией криптографического кода на Rust в SymCrypt.
В SymCrypt криптографические алгоритмы остаются на Rust, а Lean используется для функциональной модели и доказательств. Реализация, которая используется в продуктах, сохраняет оптимизированные платформенные ветки. Charon и Aeneas переводят исходный код на Rust в функциональную модель на Lean, а доказательства связывают её с формализациями стандартов NIST.
В опубликованной ветке SymCrypt представлены спецификации и доказательства для SHA-3/SHAKE и ML-KEM. Проверяются функциональная корректность и отсутствие паник при заданных предусловиях. В объём работы входят отдельные SIMD-реализации. Спецификации исполняются на стандартных тестовых векторах и дополнительно проверяются математическими теоремами.
Текущий процесс устроен следующим образом:
основная реализация остаётся на Rust и сохраняет оптимизированные платформенные ветки;
агенты помогают переводить стандарты в спецификации и выполняют значительную часть работы по построению доказательств;
ядро Lean независимо проверяет доказательства;
специалисты проверяют спецификации, основные теоремы и допущения.
Такое распределение описывает современную инженерную практику и не устанавливает постоянного разделения труда. Дальнейшая автоматизация может охватить и аудит спецификаций. Вопрос соответствия формальной модели исходному намерению сохраняется независимо от того, выполняется ли проверка людьми, автономными агентами или совместно людьми и агентами.
Авторы приводят и численные оценки объёма работы. Для ML-KEM около 2,1 тысячи строк Rust сопровождаются примерно 38 тысячами строк свойств и доказательств. Для SHA-3 они указывают около 1,7 тысячи строк Rust и более 15 тысяч строк доказательств. Строки доказательств нельзя напрямую переводить в человеко-часы, особенно когда их часть создают агенты, но сам объём показывает, что формальная гарантия требует дополнительной работы.
Готовое доказательство можно воспроизводить автоматически. Изменение кода может потребовать пересмотра доказательства. До успешной повторной проверки гарантия для новой версии не подтверждена. В таком проекте автоматическая перепроверка позволяет включить верификацию в обычный цикл разработки.
6. Доказанная программа не обязана быть правильным продуктом
Формальное доказательство ограничено спецификацией, моделью исполнения и принятыми допущениями. Оно не означает отсутствия любых ошибок навсегда:
Реализация обладает доказанными свойствами при условии, что спецификация, модель исполнения и принятые допущения корректны.
Если спецификация не учитывает срок действия сертификата, реализация может формально соответствовать спецификации и всё равно быть уязвимой. Если доказана только функциональная корректность, остаются вопросы утечек через побочные каналы, включая время выполнения и энергопотребление. Если генератор случайных чисел представлен внешней аксиомой, доказательство не гарантирует качество энтропии. Если доверенный компилятор неправильно перевёл программу в машинный код, теорема о модели сама по себе не спасёт исполняемый файл.
Проект SymCrypt прямо перечисляет такие границы. В число доверенных компонентов входят компилятор Rust, Charon/Aeneas, модель стандартной библиотеки, ядро Lean и аппаратные модели. Побочные каналы, производительность и криптостойкость самих стандартов не входят в доказанные свойства.
Соответствие реализации спецификации не гарантирует пригодности самой спецификации для решения исходной задачи. Риск ошибок сохраняется: часть ответственности перемещается из кода в спецификацию и модель угроз.
7. Программный проект может быть завершённым
Репозиторий, который не обновлялся три года, часто считают заброшенным. Иногда это справедливо: в зависимостях обнаруживаются и устраняются уязвимости, поддержка платформ прекращается, а требования к продукту меняются.
Постоянные коммиты не обязательно свидетельствуют об активной разработке, равно как их отсутствие не обязательно означает заброшенность. Библиотека может не требовать активной переработки просто потому, что её разработка завершена.
Формальная верификация даёт этому рассуждению более строгую основу. Если область применения стабильна, спецификация полна, доказательства воспроизводятся, а доверенные инструменты и окружение не изменились, компонент можно оставить без изменений, сохранив проверяемую гарантию. Принцип работает, лучше не трогать получает проверяемое обоснование того, что компонент продолжает соответствовать своим требованиям.
Сопровождение остаётся необходимым. Нужно сохранять инструментарий, перепроверять сборку, следить за зависимостями и пересматривать модель угроз. Изменение стандарта или аппаратной платформы может потребовать новой работы. Поддержка при этом смещается от регулярных изменений к контролю условий применимости доказательства.
8. Будущее разработки ПО: проверяемые намерения
Эволюцию разработки ПО можно представить как последовательное повышение уровня абстракции:
машинный код и ассемблер описывают действия процессора;
языки высокого уровня описывают алгоритмы;
фреймворки и библиотеки собирают системы из готовых компонентов;
генеративный ИИ превращает описание намерения в реализацию;
формальные методы делают намерение точным, а соответствие реализации проверяемым.
Описанный здесь подход можно считать строгой формой SDD (spec-driven development, разработки, управляемой спецификациями): спецификация предшествует реализации и задаёт критерий её корректности. Однако на практике под SDD часто понимают подготовку требований на естественном языке, по которым ИИ-агенты генерируют код и тесты. Такие спецификации полезны для организации работы, но обычно не имеют формальной семантики и без дополнительной формализации непригодны для машинно проверяемой верификации. Для доказательства недостаточно записать намерение в Markdown: его нужно выразить в формальной системе и связать с реализацией проверяемой теоремой.
Центральным артефактом становится спецификация, синхронизируемая с кодом. Вместе с ней нужны точные инварианты, модель угроз, воспроизводимые доказательства и явно зафиксированные допущения.
Готовность проекта тогда определяется полнотой проверенных свойств, а не только успешными тестами. Это и есть переход к инженерии спецификаций и проверяемых свойств.
Ссылки
Microsoft Research: Verifying Rust cryptography in SymCrypt, from standards to code.
Microsoft SymCrypt: ветка
feature/verifiedcryptoсо спецификациями, теоремами и описанием доверенной базы.Aeneas: инструмент трансляции Rust в модели для формальной верификации.
Lean: язык доказательств и система интерактивного построения теорем.
