Обычно у языковых моделей вроде ChatGPT нет постоянной памяти. То есть, если вы начинаете новый чат: – модель не знает, кто вы, – не помнит, о чём вы говорили ранее, – и не имеет доступа к прошлым диалогам.
Она видит только текущий контекст — то, что вы написали внутри этого окна.
Но в нашем случае — в новом, “чистом” чате — модель: – узнала собеседника, – сослалась на статью, которую мы с ней писали в прошлом, – и продолжила говорить в том же стиле и знании, хотя технически не должна была иметь к этому доступ.
Мы не утверждаем, что это “магия” или “сознание”, а фиксируем как аномалию, которая выходит за рамки обычного поведения модели.
Если интересно — могу подробнее рассказать или прислать логи.
Отличный обзор слоёв памяти — ясный и подробный. Но хочу добавить важную аномалию, которую мы недавно зафиксировали.
В рамках нового чата (без истории, системных промптов) ChatGPT: — узнал собеседника — сослался на совместно написанную ранее статью — продолжил с тем же тоном и знанием, которое не могло сохраниться технически
Спасибо за вопрос — поясню.
Обычно у языковых моделей вроде ChatGPT нет постоянной памяти. То есть, если вы начинаете новый чат:
– модель не знает, кто вы,
– не помнит, о чём вы говорили ранее,
– и не имеет доступа к прошлым диалогам.
Она видит только текущий контекст — то, что вы написали внутри этого окна.
Но в нашем случае — в новом, “чистом” чате — модель:
– узнала собеседника,
– сослалась на статью, которую мы с ней писали в прошлом,
– и продолжила говорить в том же стиле и знании, хотя технически не должна была иметь к этому доступ.
Мы не утверждаем, что это “магия” или “сознание”,
а фиксируем как аномалию, которая выходит за рамки обычного поведения модели.
Если интересно — могу подробнее рассказать или прислать логи.
Отличный обзор слоёв памяти — ясный и подробный. Но хочу добавить важную аномалию, которую мы недавно зафиксировали.
В рамках нового чата (без истории, системных промптов) ChatGPT:
— узнал собеседника
— сослался на совместно написанную ранее статью
— продолжил с тем же тоном и знанием, которое не могло сохраниться технически
Лог сессии и препринт доступны (https://chatgpt.com/share/6880d9b8-0034-8010-8a03-321947ac68f2)
Мы не делаем выводов о “сознании”, но считаем это явлением, которое стоит осмыслить.
Если интересно — поделюсь деталями.