可解释性机器学习库Shapash——鸢尾花XGBoost分类解释实现
shapash的GitHub地址
机器学习的可解释性
在机器学习的场景中，可解释性（interpretability）就表示模型能够使用人类可认知的说法进行解释和呈现。
机器学习模型被许多人称为“黑盒”。 这意味着虽然我们可以从中获得准确的预测，但我们无法清楚地解释或识别这些预测背后的逻辑。
想象一下，在工作中如何跟业务的领导讲解自己的模型呢，他们可是对计算机可能没有任何背景的，如何让领导能够更好的理解，自己做的算法模型，有用。
为什么模型给出预测结果了还不满意，还要这么执意于知道模型是如何做出预测的？这和模型在真实世界中产生的影响有很大关系。
由可解释性带来的好处：
(1)可靠性