“可解释人工智能（XAI）方法是旨在使复杂模型的决策过程对人类更易理解的深度学习技术。其目标是提供对这些模型如何得出预测的洞察，这对于建立信任、透明度以及遵循法规至关重要。由于深度学习模型通常被视为“黑箱”，XAI 方法旨在通过提供解释来弥合这一差距，帮助开发者和用户解读模型的行为。
一种常用的方法是局部可解释模型无关解释（LIME）。LIME 专注于通过扰动输入数据并观察预测变化来解释单个预测。例如，如果您有一个图像分类器，LIME 可以突出图像中最影响模型决策的部分，帮助开发者理解模型认为重要的特征。另一种流行的方法是 SHAP（Shapley 加性解释），它利用合作博弈论为每个特征分配重要性分数，根据它们对最终预测的贡献程度。SHAP 值在处理结构化数据时尤其有益，使理解特征之间复杂的相互作用变得更加容易。
除了 LIME 和 SHAP，还有其他 XAI 方法，如显著性图和 Grad-CAM（基于梯度的类别激活映射），专门针对基于图像的任务。显著性图可视化图像中哪些像素对模型预测影响最大。Grad-CAM 进一步提供了一种基于梯度的定位技术，可突出卷积神经网络用以做出决策的图像区域。通过采用这些方法，开发者可以获得对其深度学习模型的宝贵洞察，从而实现更好的调试、改进模型设计和增强用户信任。”