SHAP

模型预测准确，可业务方一问“为什么判这个用户高风险”就答不上来。SHAP 用博弈论中的 Shapley 值解释任意机器学习模型的输出。

它算出每个特征对单次预测的贡献，并画成瀑布图、蜂群图等可视化，支持树模型和深度学习。

软件功能

特征贡献：Shapley 值。

可视化：瀑布图与蜂群图。

模型通用：树模型到深度学习。

全局与局部：两种视角。