为了测量视觉-语言模型（VLMs）的可解释性，可以应用多种技术来评估这些模型解释其决策和输出的能力。可解释性可以通过特征重要性分析、对生成输出的定性评估以及评估人类理解的用户研究等方法进行测量。这些方法各自提供了对模型行为的洞察，以及模型根据输入数据进行推理的有效性。
一种实用的方法是特征重要性分析，它涉及确定输入数据中（包括图像或文本）哪些部分对做出预测最具影响力。这可以通过诸如显著性图或注意力可视化等技术来实现，展示图像的哪些区域或文本中的哪些词对结果贡献更大。例如，如果一个模型在图像中识别出一只猫并生成文本“坐在垫子上的猫”，显著性图将突出猫所在的区域。这种可视化表示帮助用户理解哪些元素导致了模型的决策，从而增强可解释性。
另一种有效评估可解释性的方法是通过定性评估。这可以包括比较不同模型如何响应相同输入，或分析它们输出的一致性和逻辑连贯性。例如，如果多个模型用短语“公园中的狗”描述一幅狗的图像，那么模型间表达的一致性表明更好的可解释性。此外，进行用户研究，让人类评估模型输出的清晰度，可以对可解释性提供有价值的反馈。通过收集用户在多大程度上能够将理解与模型生成的响应对齐的定性数据，开发者可以深入了解VLM在实践中的可解释性。