Comments 3
Последнее время нет уже такой проблемы как количество токенов или высокая стоимость.
Бесплатный джемини 2.5 про легко держит пару сотен тысяч токенов.
И проблемы с тем что одна ллм не справляется со всеми задачами тоже ушла, раньше попытка написать что то нетривиальное нередко приводила к забегу по разным моделям, джемини-гпт-клод и по кругу, а теперь я уже не помню даже как тот клод выглядел.
оставить в контексте только то, что действительно помогает ответить на текущий промт
Оставив в стороне llm'ы, звучит как фигня какая-то. Если вы заранее знаете какая информация необходима и достаточна для ответа на вопрос, вы скорее всего и ответ уже знаете. Зачем тогда вообще llm?
Автопополнение, которое нужно ждать 15 секунд? Звучит как ерунда или я что-то не понимаю
Как выжать максимум смысла из тысяч строк кода