Мое первое серебро на Kaggle или как стабилизировать ML модель и подпрыгнуть на 700 мест вверх

[FreeNickname]

Спасибо ? за ➡️ статью! ? Очень ? интересно! ?

[ShashkovS]

Когда я вижу такой «плотный» по score топ, то сразу хочется добавить второй leaderboard — с ещё одним паком данных. И сравнить с первым leaderboard'ом. Есть ощущения, что совсем топ в достаточной мере случайным получается.
И как раз будет видно, у кого хорошо стабилизирована модель, кто переобучился, а кого подкинула случайность.

[anton19286]

Алхимия какая-то. Пробуем что попало, пока не повезёт

[barbaris76]

Учитывая, что на всех этих соревнованиях верхние одна-две сотни мест - кровавая мясорубка за тысячные и меньше скора, то примерно так и есть. Причём практического смысла оно уже особо не имеет - так, чисто свистоперделки в стиле "котик, ну ещё капельку" (кстати, catboost, хехе :).

[ivkireev]

Интересная статья)

Подскажите, диверсифицированная модель RNN Transformer - это же по факту две модели?