Умный Early Stopping: обучаем нейросети, анализируя тренд, а не шум

[@NikitaKoss]

Как варинт можено еще попробовать для этой цели прикрутить скользящую среднюю и по ней отслеживать тренд.

[@IamSVP]

а почему вы используете и torch и numpy? Почему просто торча недостаточно?!

[@YH7H22]

В данном случае torch используется для работы с моделью и тензорами, а numpy просто для быстрой линейной регрессии в функции istrend_bad()

Здесь регрессия нужна чисто как инструмент анализа тренда (наклона), а не как часть вычислительного графа, поэтому я не вижу смысла тянуть за собой градиенты pytroch.

В продакшене, если захочется ускорить всё под GPU, можно легко заменить numpy на torch аналог (torch.arange, torch.polyfit или torch.linalg.lstsq) идея не изменится.

Смысл тут именно в логике трендового анализа, а не в том, на чьих тензорах он работает.