2.5 人机能动系统

保留的决定#

本节保留产品开发者在 v2.1 和 v2.2 中拍板的三个决定，并给出更深的依据：

1. 人与 AI 是同一系统里对等的能动模块。两者都被建模、都被预测、都在现实中行动，都进入学习环。区别在能力与问责，不在等级。〔产品决定，v2.1〕
2. 主人层归人。目标、价值、边界、信念的准入和「目标是否发生」的宣布，由人类模块持有。〔产品决定，v2.1；M6、A4〕
3. AI 也在现实中行动并承担责任。AI 模块能在现实中做到多远，是一种随可靠性证据逐级扩展、可以收回的行动授权（L0–L4），而不是「AI 只记录、分析、起草、建议」的固定规则。〔产品决定，v2.2〕

为什么是「对等的模块」，而不是「人监督 AI」#

联合认知系统〔理论〕D（Woods & Hollnagel, 2006）：分析的单位不应该是「人」或「机器」，而是人和机器组成的联合系统；系统的表现取决于两者之间的协调，而不取决于任何一方单独的能力。

协同主动设计〔理论〕D（Johnson 等, 2014）：人机团队里的每个成员都要满足三个相互依赖的条件：可观察（别人能看到我在做什么、为什么）、可预测（别人能预料我接下来会做什么）、可指挥（别人能影响我做什么）。这三个条件对人和 AI 是对称的。

让自动化成为团队成员的十个挑战〔理论〕D（Klein 等, 2004）：要成为团队成员，自动化必须满足基本契约、维护共同基础、可被相互预测、可被指挥，并能表明自己的状态和意图。

这些理论说明，「对等模块」不是一个修辞，而是一种设计要求：人和 AI 都要被建模（本人模型、部件卡）、都要被预测（执行预测、部件执行预测）、都要留下可观察的记录。产品现在已经做到了这一点〔产品，M8、M4〕。

为什么主人层归人#

主人层归人的理由不是「人比 AI 高级」，而是三个关于能力和问责的事实：

1. 价值和目标是人的。复杂目标的「为什么」来自人的价值（自我决定理论）。AI 可以帮人澄清价值，但不能替人拥有价值。
2. 人有法律身份，能承担法律责任。在现行制度下，对外承诺、花钱、签约的法律后果由人承担 （欧盟, 2024）。
3. 人有意识，会被结果影响。目标发生与否改变的是人的生活。

以人为中心的 AI〔理论〕D（Shneiderman, 2020） 指出，「人的控制」和「自动化程度」不是一条线的两端，而是两个独立的维度：可以同时有高度自动化和高度的人类控制。主人层归人就是在「控制」这个维度上保持高位，同时在「自动化」维度上允许 AI 模块走得很远。

为什么授权是一个阶梯#

如果 AI 能做的事是固定的，系统就只能在两种失败之间选一种：授权过高（出事），或者授权过低（人的注意力被浪费在审批上，H10）。

自动化等级〔理论〕（Sheridan & Verplank, 1978；Parasuraman, Sheridan & Wickens, 2000） 早就指出，自动化可以有多个等级，并且应该按任务阶段（信息获取、分析、决策、执行）分别设定。近年 （Feng, McDonald & Zhang, 2025） 把这个思路用到 AI 智能体上，按用户的角色把自主性分为五级（操作者、协作者、顾问、审批者、观察者），并提出「自主性证书」的概念。（Shavit 等, 2023） 提出了让智能体系统可治理的七项实践，包括约束行动空间、可读性、自动监控、可归因、可中断，并要求每一项可能的危害都至少有一个人负责。

v3 的授权阶梯 L0–L4 综合了这些研究，详见 4.2 委托与授权阶梯。

v3 新增：能动价值对两类模块都适用#

三种价值里的能动价值对人和 AI 模块都适用，但方向不同：

• 对 AI 模块：授权的扩展就是能动性的积累。可靠性记录越好，授权越高，AI 能为系统做的事越多。
• 对人类模块：能力、精力、关系、自我效能都是存量。AI 替人做事时，要么在增加这份存量（教会人、腾出精力），要么在消耗它（去技能化、注意力淹没）。

这引出一条 v2 没有的原则：P20 每次协助都留下更强的人。AI 的授权可以扩展，但不能以人的能力退化为代价。

四层写权契约#

v2 把模块之间的权限写成四层契约〔产品，v2 3.5〕，v3 保留：

v3 的改动在执行层：执行层的写权不再是固定的「可以先做 / 必须等」两栏，而是一个按动作后果分级、随可靠性升级的授权阶梯。见 S9。