User
При чтении статей в области explainable AI, нередко можно встретить интерпретируемость (Interpretability) и объяснимость (explainability) как взаимозаменяемые сущности. Между этими понятиями существует путаница, которая вызывает трудности, особенно масштабные при отслеживании и анализе литературы [1].
В этом посте разобрана разница между explainable AI и interpreted AI, приведены примеры и небольшой монолог на тему: "что всё-таки важнее".
Прошу к чтению =)
Предупреждение и радостная весть: статья рассчитана в том числе на тех, кто видит математику впервые в жизни.
Коротенькое введение.
Думаю, многие встречали визуализацию с подписью “какой-то там граф”, где были изображены круги, соединенные либо палками, либо разнонаправленными стрелками. Так вот, очень сильно прошу вас сейчас выкинуть это отождествление из головы.
Да, встречаемые картинки являются визуализацией базовых графов и, кроме того, они являются полезным инструментом в жизни, но математика нежно обидется, если сказать или даже подумать – что граф принадлежит миру 2D. Теперь от лирики к строгому определению:
Графом — называется пара $(N, E)$, где $N$ — nodes, множество вершин, называемых также узлами, а E — edges множество ребер, называемых также связями.
В чем отличие этого определения от 2D-мира? Как пример то, что множество N может являться семейством множеств.