P22 自主与主人层归人
表述:目标、价值、边界、信念的准入、「目标是否发生」的宣布,属于人类模块持有的主人层;AI 模块可以提议、起草、提醒,但不能代替人做出这些决定。
依据#
- F1.3 目标与价值脱节:自我决定理论 B(Ryan & Deci, 2000),自主是内在动机的基本心理需要之一。
- H9 责任缺口:有意义的人类控制 N(Santoni de Sio & van den Hoven, 2018)。
- 以人为中心的 AI (Shneiderman, 2020):高自动化与高人类控制可以并存。
- 产品决定〔v2.1〕。
对产品的含义#
- 保留 A4(目标是否发生只能由人凭证据宣布)和 A11 的主人层写权〔产品,M1、M6、AGENTS〕。
- 补充:「改写」和「放弃」也属于主人层(与 P02 一致)。
- 主人层的权力归人,不等于每个决定都要逐条打扰人。主人层决定可以批量处理(例如信念准入在周复盘批量处理),见 P26。
反模式#
- AI 自行宣布「目标已达成」。
- AI 悄悄改写目标的验收标准。
检验#
- 主人层字段的所有写入都来自人类模块(可用代码检查)。
与 v2 的关系#
保留 A4、A11。