4.3 信任校准
信任要和可靠性对齐#
对自动化的信任〔理论〕B（Lee & See, 2004） 把信任定义为「在不确定和脆弱的情况下，相信一个代理会帮助达成目标的态度」。关键概念是校准：信任的程度和对方实际的可靠性一致。
（Hoff & Bashir, 2015） 把信任分成三层：倾向性信任（个人对技术的一般态度）、情境性信任（任务与环境）、习得性信任（对这个系统的具体经验）。产品能影响的主要是习得性信任，也就是让人看到准确的可靠性记录。
两种失准#
- 算法厌恶 （Dietvorst, Simmons & Massey, 2015）：人看到算法出错后，对算法的信任下降得比对人的信任快，哪怕算法整体比人准。
- 算法欣赏 （Logg, Minson & Moore, 2019）：在一些任务上，人反而更愿意听算法的，尤其是在自己不熟悉的领域。
两者都说明，人对 AI 的信任受印象和情境的影响很大，不会自动和可靠性对齐。
解释不一定帮助校准#
直觉上，让 AI 解释自己的建议，人就能判断该不该信。但 （Bansal 等, 2021） 发现，解释增加了人对 AI 建议的接受度，不论 AI 是对是错。解释在这里起的是说服作用，而不是校准作用。
（Buçinca, Malaya & Gajos, 2021） 的「认知强制」设计更有效：先让人自己做判断，再显示 AI 的建议；或者让人在看 AI 建议前必须等待一段时间。这些设计减少了过度依赖，代价是用户觉得麻烦、主观评价更低。
对一心行动的含义#
- 信任由记录决定（P24）。产品已经有部件卡的可靠性记录和本人的执行预测结清〔产品，M4、M8、G6〕，这是校准的基础。
- 按任务类型显示可靠性，而不是一个总分（与 4.1 的能力前沿一致）。
- 只在高后果决定上用认知强制。认知强制有成本，按 P26，只在不可逆、高代价的决定上使用：先请人写下自己的判断，再显示 AI 的分析。〔本文提议〕
- 信任是双向的。在对等能动模块的框架下，系统对人的「信任」（执行预测）也要校准，并且受保护性不对称的约束：对人的推测只能用于保护方向（P16）。