LIME，或局部可解释模型不可知的解释，是一种用于提高复杂机器学习模型可解释性的技术。它侧重于解释任何机器学习模型所做的特定预测，无论其底层架构如何。LIME背后的想法是创建一个更简单，可解释的模型，该模型非常接近特定实例附近的复杂模型的预测。通过这样做，它提供了模型基于输入数据做出特定决策的原因的见解。
LIME的过程从选择一个我们想要了解模型输出的实例开始。然后，LIME围绕该实例生成扰动样本的数据集。这意味着它会稍微修改输入特征，然后从原始模型中收集这些新样本的预测。例如，如果输入是图像，则可以向像素添加小的噪声或改变，或者如果输入是表格数据，则可以改变各种特征值。然后，这些新样本及其相应的预测用于训练更简单，可解释的模型，通常是线性回归或决策树。
最后，LIME基于这个更简单的模型提供了解释，强调了哪些特征对所选实例的预测影响最大。例如，在预测评论的积极性的情感分析模型中，LIME可能会指出诸如 “优秀” 或 “令人失望” 之类的特定单词会影响结果。这种解释有助于开发人员和利益相关者以有意义的方式理解模型的行为，使他们能够建立对自动化系统的信任，并确保符合决策过程。