4.18 人与 AI 是对等的能动模块(A10、A11、M4、M8)
产品主张#
人是「具有主观能动性、且存在于现实世界的部件」,要进入贝叶斯循环:每条指令既预测世界,也预测人(M8 ①);本人、外部人、AI 同为能动单元(M4 ②),都在事件看板占泳道;给本人的指令写双预测,给部件的任务单写结果预测与部件执行预测(M11 4.1);两者结清后分别回写本人模型与部件卡可靠性记录(M8、G6)。智能体能行动,但没有人的身份与法律责任(02 本体 §1.6),所以主人层接口归人(A11);AI 模块在现实中的行动范围随授权阶梯扩展(3.8)。决策记录里的能动模块注册表草案(v0.2,未生效)把这一点写成了协作机制:能动模块就是事件看板的泳道,本人也一样持锁、排队写入。
支撑理论#
- 行动者网络理论与广义对称性D(Callon, 1984;Latour, 2005):分析时用同一套词描述人与非人行动者,不预先假定谁是主体、谁是工具;事件由人与物、文本、算法组成的网络共同促成。一心行动把本人与 AI 同列为能动单元、同样建模和预测,就是这种分析上的对称。
- 分布式认知B(Hutchins, 1995;Hollan, Hutchins & Kirsh, 2000):认知的分析单元是人与人工物组成的功能系统,表征在人、工具与文档之间传递和转换。一心行动的正本、信念账本与指令卡就是这样的外部表征,人和 AI 都在读写它们。
- 联合认知系统B(Hollnagel & Woods, 2005;Klein 等, 2004):分析对象应是「人 + 机器」构成的联合系统及其整体表现,而不是把机器当作人使用的工具、也不是把人当作机器的操作员;联合系统里的每个成员都要可预测、可指挥,并能表明状态与意图。双预测与可靠性记录让两类模块都满足「可预测」。
- 社会技术系统C(Trist & Bamforth, 1951;Cherns, 1976;Baxter & Sommerville, 2011):社会子系统与技术子系统要联合优化;只优化技术、把人当作适配机器的部分,会失败。按能力分工、表现数据不评判人(A13),是联合优化的一种做法。
证据强度#
ANT 是分析视角,不是可检验的因果理论(D);分布式认知有大量现场研究支持(B);联合认知系统 B;社会技术系统 C(以案例与准实验为主)。
理论给产品的提醒#
- 分析上的对称不等于能力或责任上的对称。Suchman(2007)强调人与机器在情境理解与应对意外上存在不可消除的差异;Johnson(2006)认为计算机系统可以是道德实体,但不是道德行动者。产品按能力分配接口,与这两点一致;对外表达时不要把「对等模块」说成「人与 AI 地位、责任完全相同」。
- 责任要分清类型,不能含糊平摊(Matthias, 2004;Elish, 2019):AI 模块承担操作责任(先预测、留痕、结清、修复、接受降级),这份责任随授权扩大而加重;目标宣布与价值裁决属于主人层;法律责任目前落在授予授权的人或组织上。三者都要写明,否则会出现责任缺口或道德缓冲区(见 3.8、9.2)。
- 对称要落到数据上:AI 模块的可靠性记录要像本人模型一样认真维护(G6 已有规则),否则「对等」只停在说法上。〔本文提议〕周复盘可以并排报告两类模块的执行预测命中情况。
- 注册表草案尚未生效(「规则要和实现它的代码一起落地」),本文引用的是它的设计方向,不是当前行为。
本页理论卡(4)
在概念 → 理论映射网络中查看全部关系。