4.2 委托与授权阶梯
为什么需要阶梯#
v2.2 拍板:AI 模块也在现实中行动并承担责任,它能做到多远是一种随证据扩展的授权〔产品决定,v2.2〕。本节把这个决定写成可操作的阶梯。
固定授权只能在两种失败之间选择:授权过高时出事;授权过低时,人的注意力被浪费在审批上,系统的触达能力也被锁死在人的带宽上(H10、F6.1)。阶梯让授权跟着证据走。
五级阶梯#
| 级 | 名称 | AI 能做什么 | 人做什么 | 例子 |
|---|---|---|---|---|
| L0 | 只读 | 读取、检索、分析 | 一切行动 | 读取模型文件,回答问题 |
| L1 | 起草建议 | 起草候选、消息、方案,等人采用 | 选择、修改、执行 | 起草一封给潜在客户的邮件 |
| L2 | 系统内可逆 | 在系统内直接执行可回滚的写入 | 事后查看,可以回滚 | 更新状态、整理模型、生成派生视图 |
| L3 | 对外可撤回、低代价 | 在边界内直接执行对外动作,这些动作可撤回或代价低 | 设定边界,事后查看 | 回复一封日程确认邮件、预约一个可取消的会议 |
| L4 | 边界内自主 | 在明确的边界(金额、对象、话题、频率)内自主完成一类任务,包括不完全可撤回的动作 | 设定边界与目标,定期审查 | 在每月预算内自主投放和调整广告 |
授权是按行动域分别设定的:同一个 AI 模块可以在「整理模型」这个域是 L2,在「对外沟通」这个域是 L1,在「花钱」这个域是 L0。〔本文提议〕
三条规则#
- 先可逆,后不可逆。一个域的授权升级,必须先在该域可逆的动作上积累可靠性记录,再扩展到不可逆的动作。
- 降级比升级快。升级需要一段持续的可靠记录和人的批准;一次实质性差错就可以立即降一级,由代码执行,不需要等复盘。这对应信任研究中「信任建立慢、崩塌快」的不对称 (Lee & See, 2004),但这里是有意设计的:降级的代价(多一些审批)远小于继续出错的代价。
- 责任随授权扩大。授权越高,对应的责任链越要明确:每一级都写明谁是责任人;L3 以上的对外动作,法律责任由授予授权的人具名承担。〔本文提议〕这与 (Shavit 等, 2023) 的要求一致:每一项可能的危害,都至少有一个人负责。
升级的证据规则#
升级与否是确定性的判断,应由代码而不是模型来做。一个可行的规则〔本文提议,参数待定〕:
- 每个「模块 × 行动域」维护一条可靠性记录:执行了多少次、实质性差错几次、执行预测的惊讶度。
- 用简单的贝塔—二项估计计算可靠性的下界(例如 80% 可信区间的下界)。
- 下界超过该级的门槛,并且在该级已经执行了足够多次,系统提议升级;人批准后生效。
- 任务长度也是一个维度:(Kwa 等, 2025) 发现,AI 能以 50% 成功率完成的任务长度约每 7 个月翻一番(v1 测得 Claude 3.7 Sonnet 约 50 分钟,v3 测得 o3 约 110 分钟)。超出一个模块已验证任务长度的任务,即使在已升级的域里,也按低一级处理。
与已有框架的对照#
| 本文 | Sheridan 十级 (Sheridan & Verplank, 1978) | Parasuraman 四阶段 (Parasuraman, Sheridan & Wickens, 2000) | Feng 五级(按用户角色)(Feng, McDonald & Zhang, 2025) |
|---|---|---|---|
| L0 只读 | 1 | 只在信息获取阶段 | L1 操作者 |
| L1 起草建议 | 2–4 | 信息分析、决策建议 | L2 协作者 / L3 顾问 |
| L2 系统内可逆 | 7(执行后告知),限系统内 | 执行阶段,限可逆 | L3 顾问 / L4 审批者 |
| L3 对外可撤回 | 5–6(人批准或有否决窗口),可靠后到 7 | 执行阶段,对外 | L4 审批者 |
| L4 边界内自主 | 7–8 | 全部四阶段,限边界内 | L5 观察者 |
对照关系是近似的〔推断〕。Sheridan 的等级只有一个维度,Parasuraman 补上了「哪个阶段」,Feng 把视角换成了用户的角色。本文的阶梯又补上了两个维度:可逆性和行动域。
还有一种常见的设想是「信任三阶段」:只呈现、不干预的镜像期;在低摩擦、高确定性的场景下做小干预的伴航期;大范围代理的共生期。它可以对齐到这个阶梯:镜像期约等于 L0–L1,伴航期约等于 L2–L3,共生期约等于 L4。v3 只采纳这个对齐,不采纳它常见的两个延伸:一是 AI 为了保护人而强制阻断人的行动(v3 只允许警告和加闸,见 P09);二是 AI 替人判定什么有意义(价值归人)。到了共生期,主人层仍然归人,「不需要事事请示」只适用于授权范围之内(P22)。〔本文提议〕
产品现状与建议#
- 现状:M4 规定默认可以先做的是只读取数、分析、起草、内部核对;默认必须等的是写模型正本、用新授权或新数据来源、对外发送、花钱、以本人名义承诺;每个单元只能收窄,不能放宽〔产品,M4 ②〕。名册授权按引擎、按范围授予,可撤销〔产品,E1〕。按本文的阶梯,当前起点大约是所有域 L1,经名册授权的引擎在写正本这个域达到 L2。〔推断〕
- 建议:〔建议修改〕保留现有设定作为起点,增加升级路径:写明每个域升到下一级需要的证据、谁批准、怎样回收。见 S9。
- 不变的边界:主人层的决定(目标、价值、边界、信念准入、宣布目标发生)不在阶梯上,无论 AI 的可靠性多高,都由人持有(P22)。