Comments 2
Самое печальное в методах, основанных на градиентах, то, что они объясняют только значения градиентов. Корреляцию между объяснимостью работы сети и значениями градиентов в хэтмапах, несомненно, можно увидеть, но никак нельзя взаимозаменять эти два понятия, к сожалению.
Кажется, что истинное объяснение может дать только математическая функция, которую реализует сеть, но толку от такого объяснения на порядок меньше, чем от градиентов.
Спасибо за статью.
Ещё бы очень хотелось посмотреть сравнение с:
Grad-CAM++, Score-CAM, LayerCAM, Eigen-CAM, FullGrad-CAM и остальными популярными модификациями и улучшениями.
Sign up to leave a comment.
Интерпретация моделей или как заглянуть в черный ящик