Соревнование mlbootcamp от mail.ru. Кратко о рецепте второго места

[ServPonomarev]

По поводу алгоритма отбора квадратичных фич, который неделю грел комнату. Вполне можно ожидать, что некоторые фичи сами по себе не играют, но заиграют в связке с другими. Отбрасывание не улучшающих результат фич навечно рубит возможность найти подобные играющие пары и ансамбли фич. Этот процесс, в принципе, похож на градиентный спуск, только осуществляемый в пространстве фич (подключена/отключена). Надо возвращаться и снова пробовать отброшенные фичи после некоторого числа шагов спуска.

[romanegunkov]

Сами обучающие данные можно у себя поделить на обучающие и тестовые, тогда можно оценить работу метрик и отловить момент переобучения без выполнения сабмита на сервер с ограничением 5 в день. Вы это использовали?

[devpony]

кросс-валидируйтесь

[romanegunkov]

Кросс-валидация даже лучше, если по ресурсам подходит.

[QtRoS]

Спасибо моей девушке за терпение и еще раз терпение)

Жизненно…

[markhor]

Вот я не понимаю, честно. Какой смысл упарываться ради 0.1-1%? В продакшне на котором миллионы сэмплов франкенштейн-ансамбль не применишь, в нем может и VW будет по швам трещать. Какая разница в логлоссе между линрегом на one hot encoding-е и супер навроченным ансамблем? Кому это нужно?

[ServPonomarev]

реклама себя любимого, призовой фонд, строчка в резюме.

[Eugene713]

В продакшене все по другому, статья не про продакшен. Соревнование — оно для того и соревнование, чтобы упарываться.

[tyamgin]

кратко о рецепте второго места

О рецепте стабильного второго места.
Поздравляю с дублем!

[gaploid]

А сколько получилась точность предсказания модели, что человек «выйдет из игры»? В каком-нибудь более понятном показателе, а то я не очень понимаю этот Log loss. Простите за болванство.