Какую проблему решаем?
Любой GPT-бот на базе любой LLM (например на ChatGPT) должен сам и незаметно для пользователя запоминать в постоянную память нужные нам сведения из диалога.
Шаг№1: Создадим определение функции
{
"name": "ai_memory_v3",
"description": "Call this function when you need to make adjustments to JSON memory.",
"parameters": {
"type": "object",
"properties": {
"key": {
"type": "string",
"description": "New or existing key from JSON memory",
},
"value": {
"type": "string",
"description": "Text to be written by the specified key",
},
"action": {
"type": "string",
"enum": ["+", '-', '.', '_'],
"description": "Action type. `+` - means adding information to memory. `-` - means deleting information from memory. `.` - means changing information in memory. `_` - means clear all memory",
},
},
"required": ["key", "value", "action"],
},
}, Параметры нашей функции:
"key" - Новый или существующий ключ из JSON памяти. Этот параметр указывает, к какому ключу будет применено действие.
"value" - Текст, который будет записан по указанному ключу. Этот параметр содержит данные, которые будут добавлены, изменены или удалены в памяти.
"action" - Тип действия, которое будет выполнено с памятью. Возможные значения:
-+- добавление информации в память.
--- удаление информации из памяти.
-.- изменение информации в памяти.
-_- очистка всей памяти.
Обработчик функции на нашем сервере
from flask import Flask, request, json
import os
import logging
# Инициализация логгера
logger = logging.getLogger(__name__)
config.ROOT_PATH = '/path/to/your/application/' # Установите корректный путь к приложению
# Создаем экземпляр приложения Flask
app = Flask(__name__)
# Определение маршрута и функции для записи в постоянную память
@app.route('/write_memory_dict', methods=['POST'])
def write_memory_dict():
# Получение данных из запроса в формате JSON
data = GetJsonFromRequest(request)
# Логирование данных запроса
logger.debug(f"[/write_memory_dict] {data}")
# Инициализация сообщения для пользователя
Res = 'Покажи новое состояние памяти и получи подтверждение на внесение изменений пользователю.n'
# Основная логика для обработки различных действий
if data['action'] == '_':
try:
# Попытка удалить файл памяти
os.remove(config.ROOT_PATH + 'json_memory/' + data['chat_id'])
except Exception as e:
# Если файл не найден, логируем предупреждение
logger.warning(f"File not found {data['chat_id']}")
# Ответ о том, что память очищена
Res = 'Память очищена.n'
else:
# Имя файла соответствует chat_id
filename = data['chat_id']
memory_json = {}
if filename is not None:
# Чтение существующего файла памяти
memory_json = read_file(config.ROOT_PATH + 'json_memory/' + filename)
try:
# Попытка преобразовать прочитанные данные из файла в JSON
memory_json = json.loads(memory_json)
except:
# Если преобразование не удалось, считаем что данных нет
memory_json = {}
# Добавление данных в память
if data['action'] == '+' and data['key'] in memory_json:
memory_json[data['key']] += ', ' + data['value']
Res = 'Данные добавлены в постоянную память.\n'
if data['action'] == '+' and data['key'] not in memory_json:
memory_json[data['key']] = data['value']
Res = 'Данные добавлены в постоянную память.n'
# Удаление данных из памяти
if data['action'] == '-' and data['key'] in memory_json:
memory_json.pop(data['key'])
Res = 'Данные удалены из постоянной памяти.n'
# Обновление данных в памяти
if data['action'] == '.' and data['key'] in memory_json:
memory_json[data['key']] = data['value']
Res = 'Данные в постоянной памяти изменены.n'
# Сохранение изменений в файл
if filename is not None and memory_json is not {}:
with open(config.ROOT_PATH + 'json_memory/' + filename, 'w', encoding='utf-8') as f:
json.dump(memory_json, f, ensure_ascii=False, indent=4)
# Логирование успешного сохранения
logger.info(f"/write memory_json OK {filename}, {memory_json}")
# Возвращение ответа клиенту
return json.dumps(Res), 200
# Функция для чтения файла, предполагается, что она определена где-то в коде
def read_file(file_path):
# Тут должна быть ваша реализация функции чтения файла
pass
# Функция для получения JSON из запроса, предполагается, что она определена где-то в коде
def GetJsonFromRequest(req):
# Тут должна быть ваша реализация функции извлечения JSON из запроса
pass
# Запустить приложение, если файл запущен напрямую
if __name__ == '__main__':
app.run()Создаем бота для тестирования постоянной памяти
Поведение:
При общении используй данные о пользователе в твоей JSON памяти и меняй свой стиль ответов согласно этим данным.
Инструкции по работе с памятью:
В память можно сохранять следующие данные о пользователе: имя, пол, возраст, привычки, интересы, увлечения.Тестируем бота и работу памяти
Для начала мы просто назовем имя боту:
Видим, что имя попало в постоянную память.
Теперь назовем возраст:
Теперь протестируем изменения данных в памяти бота:
Теперь проверим как бот общается с такими данными в памяти:
{
"user_name": "Андрей",
"user_age": "45",
"user_habits": "кофе",
"user_interests": "горы, велосипеды, море, пробежки по утрам"
}
Итоги
Если у вас есть идеи по улучшению работы предложенной модели постоянной памяти, пишите в комментариях или мне в Телеграм.
P.S.
У меня уже выходила статья по данной проблеме (https://habr.com/ru/articles/791916/), но решение было не очень стабильным и требовало дополнительный запрос к ИИ каждый раз при внесении изменений в данные постоянной памяти.
