Что такое explaining away?

В сфере машинного обучения есть англоязычные термины, которые не переводятся дословно. Их нужно объяснять, что мы и делаем вместе с нашими экспертами.

Explaining Away — эффект редукции причины как упрощённая схема рассуждений. В машинном обучении она применяется для настройки весов нейросети. Встречаются и другие варианты перевода: «объяснение-отступление» и «эффект оправдания». По смыслу они эквивалентны.

Суть эффекта редукции сводится к тому, что из множества причин, способных вызвать наблюдаемое явление, выделяется какая-то одна. В дальнейшем предполагается, что выбранная причина преимущественно объясняет следствие, в то время как значимость других возможных причин снижается. При этом необходимость проверки других (альтернативных) причин не исключается полностью.

Например, в системах автопилота ИИ одновременно сравнивает показания разных датчиков. На близком расстоянии приоритет отдаётся показаниям ультразвуковых сенсоров. Если они сигнализируют о сближении с препятствием, а камеры показывают, что «всё чисто», то данные с камер игнорируются.

Здесь в качестве причины срабатывания датчика выбрано событие «опасное сближение», хотя реальной причиной может быть налипание снега или попадание брызг на УЗ-сенсоры. Просто в целях безопасности ИИ прекращает анализ возможных причин, выбирая угрозу столкновения как наиболее вероятную.

Напишите в комментариях, какие ещё термины вам хотелось бы увидеть в нашей рубрике #нейрословарь.