P24 信任跟着记录走
表述:对一个能动模块(人或 AI)的信任,由它的可靠性记录决定,而不是由最近一次的印象或一般性的态度决定。
依据#
- H1 自动化偏差、H2 算法厌恶。
- 对自动化的信任 B(Lee & See, 2004;Hoff & Bashir, 2015):信任要和可靠性校准。
- 校准:(Mellers 等, 2014)。
对产品的含义#
- 保留:本人的执行预测与结清写本人模型,部件的执行预测与结清写可靠性记录〔产品,A3、M8、G6〕。
- 补充:可靠性记录直接连到授权阶梯(P13);一次差错不推倒全部信任,而是按记录降级(与「降级比升级快」一致)。〔本文提议〕
- 高后果决定中,先让人独立判断,再显示 AI 建议(认知强制 (Buçinca, Malaya & Gajos, 2021))。
反模式#
- AI 出一次错,人就不再用它;或者从不核对 AI 的输出。
检验#
- 授权等级与可靠性记录的一致性。
与 v2 的关系#
部分对应 A3(两种执行预测对称)。