Как я научил Telegram-бота помнить то, что LLM положено забывать
LLM по своей природе — без памяти. Каждый новый диалог с ChatGPT, Claude или DeepSeek начинается с чистого листа. Разработчики пытаются решать это костылём: запихивают в контекст последние N сообщений.
Но это не память. Это дорогое, конечное и очень прожорливое контекстное окно. Хранить всю историю — разоришься на токенах. Учить модель на лету — пока фантастика.
Поэтому я сделал по-другому.
Встречайте: настоящая долговременная память для Golem (В том виде, в каком она нужна кодинг-агенту)
Теперь мой кодинг-агент умеет сохранять только важное — факты о ваших проектах, привычках, договорённостях и запретах. Не всю переписку, а ровно то, что вы сами решите запомнить навсегда.
Как это работает:
/remember текст — Golem сохраняет факт в SQLite
/recall — показывает все ваши заметки
/forget ID — удаляет ненужное
Заметки автоматически подгружаются в начало каждого запроса, работают в любой сессии и переживают перезапуски бота. Никакой магии — просто грамотная архитектура.
Реальные примеры из жизни:
Вы пишете: /remember Я работаю над проектом X на Django + PostgreSQL. Никогда не предлагай MongoDB.
Через неделю спрашиваете: «Как оптимизировать запросы?» — Golem сразу учитывает стек и не несёт чушь про NoSQL.
Или: /remember Голем, не отвечай на вопросы про погоду. Это тупо.
Теперь на «какая погода?» он спокойно посылает вас в Google и не жрёт токены.
Это сильно круче простого увеличения контекста: вы сами решаете, что важно, а что — мусор.
Хотите видеть, как я дальше развиваю память (векторный поиск, автоматическое извлечение фактов и другие смелые эксперименты, которые я обкатываю прямо сейчас)?
→ Подписывайся на основной канал «СИСТЕМА»
Там я показываю внутреннюю кухню разработки Golem, полные архитектурные разборы и то, что обычно не выношу на Хабр.
Где потрогать бота прямо сейчас: https://t.me/Golem666bot
Пробуйте, ломайте, кидайте в комментариях:
Какие факты вы бы хотели, чтобы бот помнил о вас?
Каких ещё фич не хватает идеальному AI-ассистенту?
Жду ваших кейсов и идей — лучшие разберём вместе с Golem.
