Комментарии 5
В самом начале, Вы высказываете мнение, что одной из проблем машинного обучения является невозможность определения весовых коэффициентов. Однако статья сводится к использованию теории игр и основам теории игр - весовым коэффициентам, применительно к описанию качества результатов машинного обучения.
Таким образом наблюдается противоречие и/или подгонка результатов из теории игр к моделям машинного обучения. Shap и позволяет, красиво и в наглядной форме показать это.
По мне, всё это больше похоже на предсказания на гадальных костях или картах торо.
Здравствуйте, что касается весовых коэффициентов факторов, то их в сложных моделях действительно нет, но на самом деле они очень нужны и вектор Шепли это некоторый их аналог, в том плане что благодаря нему мы видим какая часть предсказания приходится на каждый из факторов.
Относительно гадания, я бы так не сказал, сам регулярно использую SHAP в работе, это один из самых эффективных методов интерпретации и улучшения моделей. В целом, его использование на данный момент становится общепринятой практикой, по крайней мере в финтехе.
Если рассматриваем библиотеку на питоне, хорошо бы привести примеры кода, показывающего, как это работает …
Например, вот так: https://habr.com/ru/articles/428213/ - на ту же тему
спасибо за идею! добавил пример кода
Использование теории игр для повышения прозрачности моделей машинного обучения