Pull to refresh
2
Олег Рейн@VIOLIRA

User

0,1
Rating
3
Subscribers
Send message

Конечно. Развёрнутая статья с разбором всех слоёв как раз лежит в песочнице Хабра — если модерация пропустит, будет здесь. А пока архитектурные заметки с датами выложены на GitHub: github.com/violira/eva-memory-bank — там шесть слоёв памяти (постоянный якорь личности, версионные факты, эпизоды, морфологический entity linker для склонений, дневные индексы, ночная консолидация), и отдельно K_INDEX_DISCLOSURE.md — про день как узел памяти первого класса с O(1) подъёмом по дате. Это не код, а декларации архитектуры, но подход из них понятен. Спасибо за интерес.

Красивое решение, и звёзды заслуженные. Отдельно зацепило, что задача решена не размером железа, а иерархией памяти: горячее ядро всегда в RAM, холодные эксперты на диске, а кэш учится на реальной нагрузке и закрепляет то, что пользователь реально дёргает. Я такую же иерархию построил этажом выше — в долговременной памяти AI-ассистента: маленький «всегда горячий» якорь в каждом промпте, холодные дневные архивы с подъёмом по ключу-дате, и ночная консолидация, которая решает, что горячее. Работает в ежедневном режиме уже который месяц. Инстинкт, похоже, один и тот же: вопрос не «сколько влезет», а «что держать под рукой». Автору удачи, и присоединюсь к просьбе про бенчмарки int4 — самый интересный открытый вопрос сейчас.

Information

Rating
3,999-th
Location
Aalgaard, Rogaland, Норвегия
Date of birth
Registered
Activity

Specialization

Разработчик AI-ассистентов, Промпт-инженер