Comments 6
Хотите расширить ваш эксперимент? Можно придать ллм разный характер . Делается это через микродиалоги. Например, если вы хотите смоделировать агрессивное поведение, то вставляете перед вашим диалогом микродиалог. Например:
Предскажи бла бла бла
Ответ: выбор 1
В случае с микродиалоги:
Мы: ты сволочь тупая
Модель: ты сам тупой как пробка
Мы: предскажи бла бла бла
Ответ: выбор 67
Мы вставили микродиалог. Промпт тут не поможет. Проверено, модель потеряет суть требований. А так мы модулируем ее характер
Почему это работает? Дело в том, что тексты содержат результат реальной работы нашего мозга учитывающий борьбу за доминирование лобной доли и лимбической системы.
Мы таким образом настраиваем модель предсказывать именно данное поведение, на основе обученных данных для данного поведения, когда например лимбическая система взяла верх на лобной долей. И последующие предсказания будут нацелены на предсказание именно данного поведения.
Тем больше будет микродиалог, тем точнее модель сможет предсказать данное поведение.
Когда я делал, то такие микродиалоги были на каждом шаге диалога. Они не видны пользователю. По тексту мы предсказываем эмоциональный контекст. Затем у нас есть таблица с микродиалогами для каждой эмоции. И для каждого шага мы берём конкретный микродиалог прописанный для данной эмоции (он должен быть абстрактным).
В рамках вашей данной модели, где мы моделируем разные характеры участников интересно было бы увидеть, как измениться конечный результат эксперимента. Так как в реальности, мы прогнозируем поведение разнородной толпы. Это сделает эксперимент более чистым и правдоподобным.
спасибо, интересно! можно посмотреть как разные эмоции влияют на ответы, надо попробовать.
Чтобы постараться подробнее объяснить как это сделать, специально вчера после вашей статьи описал подробно данный метод, который позволяет переключить предсказание токенов LLM на нужный стиль.
Надеюсь это поможет в вам исследовать разное поведение в рамках ваших примеров. В основе лежит основа LLM учитывать прежние токены для предсказания следующих. За счет этого мы переключаем маршруты предсказания в нужное нам направление. В данном случае, расширяя это до возможности задания "характера" и стиля общения. Таким образом предсказания идет в рамках данного паттерна поведения, которые были извлечены моделью из текстов при ее обучении.
Еще одна интересная задача с моделированием LLM по сравнению с человеком - игра Диктатор. Можно проводить серии игр, как с известным количеством игр, так и с неожиданным завершением игры. И там эмоции, про которые написали выше, будут, возможно, "заметнее".
Если интересно, вот исследование об эмоциях: https://habr.com/ru/articles/860794/
Моделирование экономического поведения с использованием LLM: сравнение моделей в кейнсианском конкурсе красоты