Как стать автором
Поиск
Написать публикацию
Обновить

Комментарии 3

Зачем, вообще, использовать Relu, когда есть Gelu?

Gelu чаще используют в NLP. Тут же пример был для простоты вычислений и скорости. Задача CV решалась. Так что выбор не особо критичен в данном случае!

Gelu и в CV дает отличные результаты, наравне с silu (последние SOTA тому пример). Потери в скорости незначительные в сравнении с кол-вом процентов, насколько улучшатся метрики.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий