Почему память агентов должна храниться у вас

[PumPumGum]

Мысль совсем не странная, а вполне здравая и даже, как бы лежащая на поверхности. Поэтому статья в целом читаеться, как "Давайте бороться за всё хорошее, против всего плохого". Ну, давайте. Вот только получится, что бороться вы будете против владельцев этих ЛЛМ/Агентов и их шкурных интересов. Можете предложить конкретные методы борьбы? Могу ошибаться, но по моему полностью все хотелки реализуются только на полностью локальной системе, если вы пустили к себе в систему гугла или мелкософта, то это уже не ваша система, не стройте иллюзий на этот счёт.

[pavelgvozdb]

Согласен: полная автономия = локальная система. Это верхняя планка.

Но пока я вижу минимум такой:

1. Память отдельно от LLM: своя DB, свой формат, свой экспорт.

2. В запросе к модели отправлять только релевантные чанки.

3. Личное, секреты, бизнес-решения строго через локальную модель.

4. Логировать все обращения к MCP-тулзам памяти по-максимуму, хотя бы для аудита.

Если не выступать строго за локальную LLM, то у этого подхода всё ещё остаётся существенное преимущество – лёгкость переезда между провайдерами. Сегодня OpenAI, завтра Anthropic, послезавтра локалка. Память та же.

Понятно, что если пустил Google/microsoft в систему, это уже не только твоя система – иллюзий тут никто не испытывает.

Мой тезис немного мягче: источник памяти должен быть и у тебя тоже.

[Art260679]

Есть не плохой проект. https://github.com/neo-2022/amai.git, подключается через MCP достаточно Агенту дать ссылку на репозиторий он сам все настроит. Правда проектом, хоть и можно уже пользоваться, но он еще реализуется. Сейчас можно пользоваться на Ubuntu. Проверено в VSCode c GPT. На большом проекте, около 2-х месяцев, в новых сессиях все помнит. Еще заметил, что токенов меньше уходит, чем без этой памяти.