可解释人工智能：评估xAI对人机交互的客观和主观影响

不同解释方法示例

#

🔼 本图展示了论文中使用的七种不同的可解释人工智能（XAI）方法，以及一个无解释的基线条件。每种方法都旨在以不同的方式解释人工智能的决策过程，以帮助用户理解。具体来说，这些方法包括：

1. 众包解释（Crowd Sourced）: 这种方法以自然语言的形式展示专家对答案的意见，如“85%的专家选择了攻击者”。
2. 模板化语言（Templated Language）: 这种方法提供一个简洁的自然语言解释，指出模型决策的关键因素，如“我将球员的加速度纳入考虑，以决定球员是攻击者”。
3. 反事实解释（Counterfactual）: 这种方法描述了改变输入会导致的不同决策结果，例如“如果球员的力量和跳跃能力有所提高，我会建议选择防守队员”。
4. 基于案例的解释（Case Based）: 此方法展示了与当前情况相似的训练数据示例，从而使用户了解模型如何进行分类。
5. 概率分数（Probability Scores）: 此方法以表格形式列出每个答案选项的概率，以显示模型的不确定性。
6. 决策树（Decision Tree）: 这是一种图形化流程图，展示了“真/假”检查的级联，可用于推导决策路径。
7. 特征重要性（Feature Importance）: 此方法列出了输入样本中对分类最重要的特征，以及对应的分数。

这些不同的解释方法，旨在通过不同的方式提高用户对人工智能决策的理解和信任。其中，概率分数被证明是最难理解的方式，而基于语言和案例的解释方式更容易被用户接受。研究结果表明，可解释的AI方法可以有效地提高人类对人工智能的信任，并对人机协同的性能产生积极影响。

不同解释性方法与性能关系

#

🔼 这张图表展示了研究中不同解释性人工智能（xAI）方法对人类与代理互动的影响。它由四个子图组成，分别探讨了解释性（Explainability）、信任（Trust）、社交能力（Godspeed）以及正确答案数量（Number Correct）之间的关系。 子图（a）显示了解释性与社交能力之间的关系，使用Godspeed量表来衡量。可以看到，随着解释性评分的增加，社交能力评分也呈现上升趋势，相关系数R=0.43，且p值小于0.0001，表明二者之间存在显著的正相关关系。图中的散点表示不同xAI条件下参与者给出的具体评分，并用不同颜色进行了区分。 子图（b）展示了解释性与信任之间的关系。类似于子图（a），信任评分随着解释性评分的增加而上升，相关系数R=0.56，p值小于0.0001，再次表明了显著的正相关关系。这意味着，参与者对解释性更高的系统也更信任。 子图（c）考察了解释性与任务表现（正确答案数量）之间的关系。图表显示，随着解释性评分的增加，正确答案的数量也略有上升的趋势。相关系数R=0.15，p值为0.01，表明二者之间存在微弱但显著的正相关性。 子图（d）显示了信任与任务表现（正确答案数量）之间的关系，相关系数R=0.15，p值为0.012，也呈现出微弱但显著的正相关性。 总的来说，这张图表表明，解释性在人类与AI的互动中扮演着关键角色。提高解释性不仅能够提升用户对系统的信任感，还能使用户对系统的社交能力感知更佳，并且略微提高任务表现。然而，需要注意的是，即使在解释性评分较低的情况下，任务的正确率也有一定的波动范围，表明正确率的影响因素是多方面的，解释性并不是唯一的决定性因素。此外，不同xAI方法（如特征重要性、决策树、自然语言等）在图表中通过不同颜色表示，但这些方法在四个子图中的分布较为分散，暗示了不同xAI方法在这些指标上的表现存在差异，但这种差异并不足以导致显著的统计差异，该研究的重点是解释性对其他指标的相关性而不是不同方法之间的差异。这些发现强调了在设计人机交互系统时，应充分考虑AI的解释性，以建立更可靠、更有效的AI系统。

xAI 评分对比

#

🔼 该图展示了不同解释性人工智能（xAI）方法在用户评分上的差异。横轴代表不同的xAI方法，包括反事实解释（Counterfactual）、案例解释（Case Based）、模板语言解释（Templated Language）、特征重要性解释（Feature Importance）、众包解释（Crowd Sourced）、决策树解释（Decision Tree）、无解释（Nothing）以及概率分数解释（Probability Scores）。纵轴是xAI的评分，代表用户对这些解释方法的理解程度和认可度。图中每个柱状图的高度表示相应xAI方法的平均评分，误差条表示评分的标准差。星号（*）表示统计显著性差异，其中一个星号表示p<0.05，三个星号表示p<0.001。从图中可以看出，反事实解释（Counterfactual）获得的xAI评分最高，显著高于无解释（Nothing）和概率分数解释（Probability Scores）方法。案例解释（Case Based）、模板语言解释（Templated Language）、特征重要性解释（Feature Importance）和众包解释（Crowd Sourced）的得分也相对较高，但彼此之间没有显著差异。决策树解释（Decision Tree）的得分略低于上述几种方法，但仍显著高于概率分数解释（Probability Scores）。概率分数解释（Probability Scores）的得分最低，显著低于所有其他方法，表明用户对这种解释方式的理解度最差。值得注意的是，无解释（Nothing）条件下用户的评分也高于概率分数解释，这可能表明仅提供数字概率的方式对用户理解帮助不大，甚至可能产生负面影响。总的来说，自然语言解释和案例解释对用户来说更容易理解和接受，而纯数字或表格形式的概率解释则效果较差。此图的结果支持了研究中提出的观点，即不同的xAI方法在用户体验和理解上存在显著差异，强调了选择合适xAI方法的重要性。

不同解释方法下的可解释性得分

#

🔼 该图为堆叠柱状图，展示了在不同可解释人工智能（XAI）方法下，用户对透明度、可模拟性和可用性的评分。横轴代表不同的XAI方法，包括反事实解释（Counterfactual）、基于案例的解释（Case Based）、模板化语言解释（Templated Language）、特征重要性解释（Feature Importance）、众包解释（Crowd Sourced）、决策树解释（Decision Tree）、无解释（Nothing）以及概率分数解释（Probability Scores）。纵轴表示“Reduced xAI Score”，即简化后的XAI问卷得分，得分越高代表可解释性越强。每个柱状图被分成三部分，分别代表透明度（蓝色）、可模拟性（棕色）和可用性（绿色）的得分。柱状图上方星号（*）表示在统计学上存在显著性差异。从图中可以观察到，反事实解释在透明度、可模拟性和可用性方面均获得了较高的评分，总分最高。基于案例的解释和模板化语言解释也表现出较好的可解释性。而概率分数解释在所有维度上的得分都显著低于其他方法，其总分也是最低的，表明用户认为概率分数作为一种解释方法的可解释性最差。此外，虽然“无解释”方法在透明度和可模拟性上得分较低，但其可用性得分与其他部分方法相当，这可能表明用户在没有明确解释的情况下，仍然能够根据自己的理解完成任务。值得注意的是，反事实解释和概率分数解释之间存在显著差异。反事实解释通过提供与当前决策不同的假设情景，让用户更容易理解模型的决策逻辑，从而提高了透明度、可模拟性和可用性。相反，概率分数解释仅仅显示了模型对每个答案的置信度，并没有提供足够的信息来解释模型是如何做出决策的，因此可解释性最差。这表明，仅仅提供模型输出的置信度并不能有效提高用户的理解能力。此图支持了论文中提出的观点，即并非所有XAI方法都能有效地提高用户的理解和信任，强调了选择合适的XAI方法的重要性。对于需要向用户解释模型决策逻辑的应用场景，反事实解释、基于案例的解释和模板化语言解释可能是更好的选择，而概率分数解释则应慎重使用。未来的研究可以进一步探索不同XAI方法在不同应用场景下的效果，并开发更有效的用户友好型可解释性方法。

不同解释方法的可理解性和一致性

#

🔼 该图表展示了在用户研究中，不同解释方法对可理解性和用户与代理一致性的影响。图(a)显示了不同解释方法的可理解性评分，其中横轴代表不同的解释条件，纵轴代表可理解性评分。我们可以清晰地看到，‘概率分数’（Probability Scores）条件的可理解性评分显著低于其他所有条件，这表明用户对直接呈现概率分数的方式理解起来较为困难。此外，‘无解释’（Nothing）条件的可理解性也较低，但优于’概率分数’条件。相比之下，‘基于案例’（Case Based）和’众包’（Crowd Sourced）条件的可理解性评分最高，表明用户更倾向于理解基于案例和由众包形式提供的解释。图(b)则展示了不同解释条件下的用户与代理的一致性评分，‘决策树’（Decision Tree）条件的一致性评分略高于’特征重要性’（Feature Importance）条件，但总体而言，各条件之间的差异并不显著。

图表中的星号表示统计显著性差异，其中***代表p<0.001，**代表p<0.01，*代表p<0.05。从图中可以看出，‘概率分数’条件与几乎所有其他条件都存在显著差异，这进一步印证了其解释效果较差的结论。反之，‘基于案例’和’众包’条件不仅在可理解性上表现出色，且与用户的理解度更高，这意味着在设计人机交互系统时，应尽量避免使用直接的概率分数作为解释，而更多地采用用户容易理解的自然语言或案例形式。该图表强调了可理解性在解释性人工智能中的重要性，并提供了在选择解释方法时需要考虑的关键因素。

xAI方法与信任度，社交能力的相关性

#

🔼 该研究旨在评估不同可解释人工智能（xAI）方法对人机协作中信任、社会能力和性能的影响。研究采用了多种xAI方法，包括模板语言、反事实解释、决策树、概率评分、众包解释、基于案例的推理以及特征重要性，并与没有解释的基线条件进行对比。研究结果表明，解释性与信任度（p < 0.0001）、社会能力（p < 0.0001）和性能（p = 0.01）均显著相关。此外，反事实解释被评为比概率评分更具解释性（p < 0.01）。研究还提出了一个用于衡量人类参与者对解释性的感知的调查问卷，该问卷与人机协作指标相关。 从图表来看，不同的xAI方法在信任度和社交能力方面表现出一定的差异。具体而言，案例推理方法在信任度和社交能力方面表现略优于其他方法。值得注意的是，概率分数方法在解释性方面显著低于其他方法，这表明仅提供概率信息可能不足以帮助用户理解人工智能的决策过程。反事实解释也被证明具有较高的解释性，这表明提供“如果…会怎样”的假设情境有助于用户更好地理解决策背后的逻辑。 研究的关键发现是，可解释性对人机协作至关重要。提高解释性不仅能增强用户对系统的信任，还能提高用户对系统的理解和接受程度，从而提升团队的整体表现。此外，该研究提出的问卷为未来研究提供了一种量化评估解释性的工具，这将有助于推动xAI领域的发展。总的来说，这项研究为如何设计更有效、更值得信赖的人工智能系统提供了有价值的见解，并强调了在人机协作中考虑人类认知的关键性。

理解度与同意度散点图

#

🔼 该图为理解度与同意度散点图，展示了不同解释方法下用户对智能体建议的理解程度和同意程度之间的关系。图中每个点代表一个用户在特定解释方法下的理解度和同意度评分。横轴代表用户对智能体解释的理解程度（Understandability），纵轴代表用户对智能体建议的同意程度（Agreement）。散点图上的点根据不同的解释方法进行了颜色编码，例如，‘Probability Scores’用深蓝色表示，‘Counterfactual’用绿色表示，‘Feature Importance’用紫色表示等等。整体来看，图中数据点呈现明显的正相关关系，拟合的回归线表示理解度和同意度之间存在较强的正向线性关系，相关系数 R 为 0.79，且统计显著（p < 0.0001）。这表明用户对智能体解释的理解程度越高，他们越倾向于同意智能体的建议。散点图中的点分布较为分散，表明即使在理解度相似的情况下，用户的同意度也会存在差异，这可能受到个人偏好或其他因素的影响。颜色编码的点显示，不同解释方法下，理解度和同意度的分布范围略有不同，但总体趋势是相似的。例如，虽然’Probability Scores’（深蓝色）的点大多集中在较低的理解度和同意度区域，但仍有一些点分布在较高区域。‘Counterfactual’（绿色）和’Templated Language’（棕色）的点则相对分布较均匀，涵盖了不同理解度和同意度水平。该图强调了理解度在影响用户对智能体信任和接受度方面的重要性，暗示了设计清晰易懂的解释方法对提升人机协作效率至关重要。此外，需要进一步分析不同解释方法在理解度和同意度上的差异，以优化解释方法的选择和设计。