Почему не сделать ограничение функцией награды? Исключительно из требования простоты модели и ее сущностей. Любое усложнение сущностей системы чревато потерей управляемости этой сущностью и может привести к необходимости своего «демона» для этой сущности. В системе, в которой отсутствует способ ограничения, очень велика вероятность «перепроизводства» (если можно привести некоторую аналогию из мира бизнеса). Поскольку сложно определить пределы «награды», то нужно введение в систему иного компонента, который будет «естественным» образом ограничивать систему.
По сути, это не совсем функция награды, сколько функция процесса… Это сродни построению функции — многочлена. Один член — отвечает за экспоненциальный рост, другой — за нарастание сопротивления, а значит и за замедление роста…
В любом случае, тема интересна не только с позиции программирования, но и с позиции философии…
Задача весьма актуальная. Есть только предложение — добавить такую «сущность» как набор допустимых ресурсов. Иначе мы получим ИИ, которая будет «накачивать» клиента спиртным или другими средствами для получения от клиента «награды»…
По сути, это не совсем функция награды, сколько функция процесса… Это сродни построению функции — многочлена. Один член — отвечает за экспоненциальный рост, другой — за нарастание сопротивления, а значит и за замедление роста…
В любом случае, тема интересна не только с позиции программирования, но и с позиции философии…