shap（SHapley Additive exPlanations）是一个用于解释机器学习模型输出的模型解释包。