Как пользователь hermes agent поддержу комментарий выше — тезис «спрашивать надо с обвязки». В статье есть цифра «до 70% накладных на входные токены даже с кэшированием». Проверил по первоисточнику: это баг конкретной обвязки, а не свойство агентов вообще — issue #20880. Обвязка просто не кэшировала описания инструментов, и они пересылались заново на каждый шаг. Частично исправили правкой самой обвязки. При этом даже после исправления остались оговорки, и все они — снова про связку обвязка+модель: 1. Кэш не резиновый: провайдер выдаёт его в ограниченном виде, и в длинных многошаговых сессиях часть контекста всё равно пересылается заново. 2. Через OpenRouter кэширование может не работать вовсе.
Как пользователь hermes agent поддержу комментарий выше — тезис «спрашивать надо с обвязки». В статье есть цифра «до 70% накладных на входные токены даже с кэшированием». Проверил по первоисточнику: это баг конкретной обвязки, а не свойство агентов вообще — issue #20880. Обвязка просто не кэшировала описания инструментов, и они пересылались заново на каждый шаг. Частично исправили правкой самой обвязки.
При этом даже после исправления остались оговорки, и все они — снова про связку обвязка+модель:
1. Кэш не резиновый: провайдер выдаёт его в ограниченном виде, и в длинных многошаговых сессиях часть контекста всё равно пересылается заново.
2. Через OpenRouter кэширование может не работать вовсе.
Да, опечатка. Писал про геостационарную орбиту, где нет защиты магнитных поясов Земли.
Американцы до сих пор делают электроника для геостационарных спутников по 100 мкм, меньше нельзя, космос кушает.