Спартанское обучение нейронных сетей

[Nicknameless]

Формулу взял из статьи OpenAI Evolution Strategies as a Scalable Alternative to Reinforcement Learning
Думаю действительно стоит проверить на какой-то части лучших потомков
Спасибо за совет

[PansOfLuck]

Класное исследование, спасибо.
Как я понял, мы мутировали абсолютно все веса сети. Интересно, будет ли профит от мутации только весов полносвязного классификатора (или отдельно выбранных слоёв)? Можно же предполагать что свёрточный экстрактор хорошо может находить фичи на изображении (если он предобучен на imagenet).

[Nicknameless]

Изначально я так и делал
Учил только линейный слой эволюцией, что тоже работало. При этом даже работало с необученными свертками