Код от нейросетей выглядит идеально — пока не попадает в продакшен. Там всплывают тихие баги: логика чуть расходится с требованиями, краевые случаи обработаны неполно, вызываются методы из прошлых версий библиотек.

Это не временный недостаток. Баги заложены в саму математическую природу современных LLM — аппроксимация гарантирует точность только внутри области тренировочных данных. За её пределами начинается экстраполяция, а вместе с ней — галлюцинации.