Разработчик Мантан Гупта провел реверс-инжиниринг систем памяти ChatGPT и Claude методом обычного диалога с моделями — и обнаружил, что подходы двух компаний кардинально различаются. Из общего, впрочем, то, что обе системы отказались от классического RAG с векторными базами данных в пользу более простых, но эффективных решений.
ChatGPT строит память из шести слоев: системные инструкции, метаданные сессии (устройство, браузер, паттерны использования моделей), долгосрочные факты о пользователе (33 факта у автора исследования), саммари примерно 15 недавних чатов, скользящее окно текущей сессии и последнее сообщение. Самая неожиданная находка — ChatGPT не использует поиск по истории разговоров, а только создает короткие дайджесты прошлых чатов. Это жертва детализацией ради скорости — ChatGPT всегда знает о ваших недавних интересах, но не может вспомнить нюансы старых диалогов.
Claude опирается на системный промпт, список главных фактов о пользователе в формате XML, скользящее окно текущей сессии и два специальных инструмента — conversation_search для поиска по ключевым словам и recent_chats для выборки по времени. Ключевое отличие: эти инструменты не вызываются автоматически. Claude сам решает, когда ему нужен контекст из прошлого, и только тогда обращается к истории. Это эффективнее по токенам, но требует от модели правильно распознавать моменты, когда старый контекст необходим.
Гупта отметил интересную деталь процесса исследования: Claude оказался "гораздо более открытым и готовым делиться информацией о внутренней структуре", тогда как ChatGPT требовал более настойчивых промптов. Автор подчеркивает, что его выводы основаны на экспериментах через диалог, а не на официальной документации OpenAI или Anthropic, поэтому к ним стоит относиться с определенной долей скепсиса. Тем не менее, исследование показывает фундаментальную развилку в подходах: ChatGPT жертвует глубиной, но всегда держит последние воспоминания "под рукой", а Claude теоретически может вспомнить все, что угодно, но надежность этого подхода упирается в сообразительность модели.
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
