Подумал о довольно логичной, но странной мысли.
Многие эксперименты сейчас идут в сторону того, чтобы ИИ-агенты совершенствовали собственный Harness (обвязку, которая управляет работой модели), адаптируя его под задачи. Уже есть научные статьи на эту тему (например, свежайший сентябрьский пирожок — https://arxiv.org/pdf/2609.38372). Есть и проекты (Exo, Google Harness²), в которых уже пробуют применять эту логику.
Но вот какой возникает парадокс. История развития Harness, самых современных методов развития агентов и тому подобного — это история передовых технологий, которым от силы полгода, а самые лучшие решения и того не старше пары месяцев. И вот ведь в чём проблема. ИИ-модели обучены на «слепке» данных на определённую дату. ChatGPT, по крайней мере, по моей грубой оценке, имеет такой слепок примерно до мая 2026 года (пытался определить по вопросам «жива ли такая-то знаменитость по твоей памяти», хотя способ, конечно, не слишком надёжный).
То есть ИИшки, которые должны модифицировать собственные обвязки, будь они трижды умны, далеко не всё про это ещё знают. В их обучении передовые Harness только зарождаются и не являются той технологией, которую мы с вами уже вовсю пытаемся применять. Мне кажется, это довольно весомый фактор, сдерживающий развитие качественных самописных обвязок и появление работающих «самомодифицирующихся агентов».
Почему это вообще может быть проблемой? Представим, что мы попросили модель написать агента, который должен самостоятельно улучшать свою работу. Она вполне способна написать рабочую систему, которая будет анализировать собственные ошибки, переписывать промпты и менять инструменты. Но насколько вероятно, что она самостоятельно предложит современные подходы к управлению контекстом, независимой проверке результатов, частичному пересчёту отдельных этапов или экспериментам с несколькими вариантами обвязки? Особенно если эти подходы стали массово обсуждаться буквально пару месяцев назад. Получается, что модель может просто не предложить хорошее решение не потому, что недостаточно умна, а потому, что ещё не знает о существовании некоторых эффективных подходов.
Конечно, здесь есть и контраргумент. Модель ведь не обязана знать о готовом решении, чтобы придумать его самостоятельно. Более того, никто не мешает дать ей доступ к свежим статьям, исходникам и результатам экспериментов. Собственно, те же исследования по самоулучшению обвязок как раз и показывают, что модели способны находить полезные решения самостоятельно. Но мне кажется, что между способностью изобрести какой-то подход с нуля и умением уверенно применять уже известный набор лучших практик есть существенная разница. Особенно когда нужно не просто получить работающий код, а построить сложную и надёжную систему.
Из этого вытекает, что уже через какой-нибудь год, когда данные по Harness сформируются и актуальные знания будут «догружены» в модели, может произойти очередной «фазовый переход». Модели станут гораздо лучше приспособлены для подобных решений просто потому, что современные практики построения агентных систем станут для них такими же привычными, как сейчас, например, практики разработки обычного ПО. Что, естественно, отразится и на рынке подобных решений.
Если вам интересны подобные размышления об ИИ, агентных системах и всём, что вокруг них происходит, приглашаю в свой телеграм-канал «Метод утёнка».
