Долгосрочная память в ChatGPT
Не так давно компания OpenAI заявила, что добавила память в свои LLM модели. Эта новость не произвела какого-то особенного фурора, как, например, нынешний запуск 5-х моделей.
Тем не менее, тема довольно интересная и нужная, потому что все так или иначе сталкиваются с контекстными окнами, размером чата, правилами и т.д.
И есть очень большой соблазн поручить модели создать общие правила, чтобы не повторять их в каждом чате. Т.е., пройтись по уже имеющимся чатам, проанализировать их, выделить общие моменты и сформулировать эти самые общие правила.
Но реальность гораздо более многомерная, чем мы можем предполагать. Вот некоторые подробности о том, может ли он решить такую задачу.
Ответ ChatGPT на вопрос о наличии такой памяти:
У меня действительно есть память, но это не значит, что я автоматически помню всё содержание всех чатов.
Итак, первый вывод - ChatGPT (GPT5), не помнит содержание всех чатов!
Но не все так плохо. Кое-что всё-таки есть. А именно, есть 2 вида памяти:
Обычная память чата - в пределах текущего разговора.
Так называемая долгосрочная память. Цитирую: “я могу запомнить отдельные факты о тебе или твоих проектах, но только если ты прямо скажешь что-то вроде «Запомни, что…”
Т.е., всё-таки есть второй вид памяти и она долгосрочная.
Но информацию в эту память ChatGPT внесёт только, если ему прямо сказать об этом.
И далее, что важно, именно эту информацию нейронка будет помнить в будущих диалогах и использовать при ответах на вопросы и задания.
Т.е., по сути дела, мы можем составлять те же общие правила, аналогично User Rules.
Получается такой полуавтоматизированный процесс: вместо анализа содержания всех чатов и формулировки текста правил со стороны LLM, пользователь сам в ручном режиме по ходу указывает какие именно блоки информации сохранять в долгосрочной памяти.
И в заключение небольшая шпаргалка с промтами для управления памятью:
Как добавить что-то в память
Запомни, что…
Сохрани в памяти…
Помни, что…
Как посмотреть память
Что ты обо мне помнишь?
Покажи, что у тебя в памяти.
Как удалить что-то из памяти
Забудь, что…
Удалить из памяти…
Как изменить запись в памяти
Измени запись в памяти про…