Комментарии 5
Степан, мне здесь особенно понравилось разделение оппонента и судей: одна модель хотя бы не играет и одновременно не хвалит собственную игру.
Я бы добавил ещё один уровень проверки — перенос навыка. Рост баллов в знакомом сценарии может означать, что пользователь просто выучил формат тренажёра.
Более сильный сигнал: через несколько дней дать другой сюжет с тем же конфликтом интересов, попросить без подсказок сформулировать линию, а после реального разговора зафиксировать, что человек действительно сделал иначе. Планируете ли вы проверять что-то подобное в бете?
Да. Например, первый сценарий — разработчик договаривается с руководителем о сроке релиза: руководителю нужен запуск в пятницу, разработчику — время на тесты. Через несколько дней второй — музыкант обсуждает с соавтором, кто владеет правами и как делятся деньги. Поверхность другая, конфликт тот же: ограниченный ресурс, разные интересы, давление согласиться сразу.
Проверять можно не «правильные слова», а перенос четырёх действий: выяснил интерес второй стороны, обозначил свой предел, предложил обмен условиями, зафиксировал договорённость. Если улучшение сохраняется в новом сюжете без подсказок, это уже ближе к навыку, чем к запоминанию формата.
Примерно это делается в тренинге в Telegram-боте. Там как раз даётся теория о том, какие нужно применить навыки в поединке. Потом даётся поединок, потом идёт анализ судей на успшеность применения этих навыков, а потом идёт закрепляющий поединок. Т.е. в какой-то мере это происходит в тренинге сейчас, насколько я понял смысл.
Да, это уже хороший контур обучения: теория → практика → обратная связь → закрепление. Я имел в виду чуть более жёсткую проверку переноса: не следующий поединок внутри того же тренинга, а новый сюжет через несколько дней, без напоминания о нужных приёмах и желательно после реального разговора вне бота.
Тогда можно разделить три вещи: человек понял объяснение, научился выполнять упражнение и действительно перенёс навык в новую ситуацию. Последнее измерять дороже, но именно оно показывает, меняет ли тренажёр поведение, а не только результат внутри курса.

Переговоры — это не только про работу: как я учу ИИ не поддаваться