使用LIME解释CNN

我们已经介绍过很多解析机器学习模型的方法，例如如pdp、LIME和SHAP，但是这些方法都是用在表格数据的，他们能不能用在神经网络模型呢？今天我们来LIME解释CNN。

图像与表格数据集有很大不同(显然)。如果你还记得，在之前我们讨论过的任何解释方法中，我们都是根据特征重要性，度量或可视化来解释模型的。比如特征“A”在预测中比特征“B”有更大的影响力。但在图像中没有任何可以命名的特定特征，那么怎么进行解释呢?

一般情况下我们都是用突出显示图像中模型预测的重要区域的方法观察可解释性，这就要求了解如何调整LIME方法来合并图像，我们先简单了解一下LIME是怎么工作的。