Как работает CMA-ES для оптимизации гиперпараметров в Optuna
Средний
7 мин
Обзор

Представьте, что вам нужно найти минимум сложной функции, о которой у вас есть минимальная информация: нет градиента, производных, а иногда даже явного аналитического выражения, но есть возможность подставлять значения и смотреть результат.
В таких задачах классические методы оптимизации часто оказываются бесполезны: они застревают в локальных минимумах или требуют информации, которой нет.
Здесь нам поможет CMA-ES — алгоритм, который не просто перебирает точки, а постепенно учится форме функции и подстраивает стратегию поиска.
В этой статье разберём, как он устроен и почему работает так эффективно.