Как Senior управляют контекстным окном LLM

[OlegZH]

Нет ничего проще и нагляднее, чем описание соотношения было/стало. Покажите, пожалуйста, результат работы ИИ!

[Einherjar]

Пять? Десять?

Если подобное повторяется, дело не в модели — дело в том, как именно вы с ней работаете.

Пять. И дело именно в модели. Класс на 200 строк, запускает фоновый поток где крутится цикл и функция которая последовательно 1) сигнализирует что надо прервать цикл, 2) дожидается завершения и 3) подчищает ресурсы - из 4 строк, порядок именно такой и читая его перепутать там нечего. Вот такое ai проанализировать уже неспособен. Баг был в том что ожидания фоновой задачи на самом деле не просходило потому что она неправильно запускалась и цикл продолжал работать на момент шага 3. Полчаса безуспешно пытался его тыкать носом в порядок действий, он это просто игнорирует и гнет свое пополам с галлюцинациями. Сам бы починил быстрее.

[Indemsys]

Однако мысли в статье противоречат наблюдаемой реальности.
Агенты уже часами могут делать работу. У них как, от контекcта крыша не едет?
Они файлы к себе тащат и тащат, трафик к ним мегабайты составляет. Они сами выбирают что читать , что запускать.
По моему понятие "контекст" немного уже не актуально.

Что такое Software 3.0 можно посмотреть в репозитории https://github.com/github/awesome-copilot/tree/main
Это какой-то безумный и беспорядочный поток слов в виде промптов. Разобраться в нем сложнее чем в кодовой базе. Никакой системы , никаких когнитивных якорей.

Думаю ошибкой Software 3.0 являет представление о каком-то унифицированом человеческом языке якобы более простом чем код. Но тут нет индивидуализации.
Индивидулизацию я вижу только в том чтобы агенты писали код опираясь на прошлые проекты индивида. А реакцию агентов ускоряем путем автоматической генерирации файлов инструкций агентам на основе предыдущих проектов.
Статья не раскрыла проблемму повышения эффективности кодирования с агентами никак.

[rbdr]

Ого, наминосовали те, кто не в теме. Автор точно и профессионально описал принципы работы с инструментом. Точно такие же наблюдения: изоляция, снижение шума, работа оптимальна при наполнении окна до 50-60% максимум.

Настоящая работа заключается в итеративном накоплении изолированных инструкций без избыточных интрузий.

Вот тогда все начинает работать как нужно.

[SkiffCMC]

Да, по описанию очень похоже на доклад чувака из Майкрософта- там почти это же рассказывали(это комплимент если что)

[north_leshiy]

На AI Conf тоже об этом говорили из того же Яндекса коллеги.

[north_leshiy]

Поддерживаю. Статья хорошая. За что хейт не понятно.

[rbdr]

Почему-то на хабре на статьи про ии набегают минусаторы. У людей стадия агрессии и отрицания, что ли. Я писал некоторые вполне нейтральные комментарии в разных статьях и наполучал странных минусов. При этом я сам кодер старой закалки и за 30 лет много чего написал и в том числе уважаемого софта. Технологии LLM уже вполне себе решают обширный класс интересных задач, просто надо учиться ими пользоваться. Это как ругать, скажем, борланд компилятор и тех кто им пользуется за то, что не пишут в кодах и ассемблере. Хотя в свое время и таких видали.

[misteryx]

Подписываюсь под каждым словом. А если сначала мат модель оформить... Он пищать от удовольствия начинает.))))