F2 模型失败
模型失败发生在第 ② 环:对「现实怎样运作」的理解出了错,或者在理解上花了太多。
F2.1 错误因果与反馈误解#
- 表现:把同时发生的事当成因果;忽视延迟,以为动作没用就不停加码;系统开始振荡。
- 机制:反馈误解〔理论〕(Sterman, 1989) 的啤酒游戏实验显示,即使规则完全透明,人也系统性地忽视时间延迟和存量,导致过度订货和振荡。人的心智模型通常是线性、单向、短时距的,而现实是有回路、有延迟的。
- 证据:B 稳健。实验室结果多次重复,实地对应的证据较少。
- 对策:P05 先找瓶颈与杠杆,显式写出延迟。
- 产品现状:覆盖。M10 系统动力图、滞后纪律(窗口内未见不算反证)正是对这个机制的回应〔产品,M6、M10〕。
F2.2 规划谬误#
- 表现:每次都觉得「这次两周能做完」,每次都用了六周。
- 机制:规划谬误〔理论〕(Buehler, Griffin & Ross, 1994;Kahneman & Lovallo, 1993) 指出,人从内部视角出发构造一个顺利的情景,而忽视同类项目的基础比率。对策是参考类预测 (Flyvbjerg, 2006):先问「类似的事通常要多久」。
- 证据:A 稳健。
- 对策:P09 小步、可逆;执行预测与结清。
- 产品现状:部分。M8 有执行预测和结清〔产品,M8 §4.2〕,这能慢慢校准对本人的预测;参考类目前只作为冷启动置信度的来源之一〔产品,P1〕,没有用于目标级、阶段级的时间估计。
F2.3 过度建模、分析瘫痪#
- 表现:要素图越画越大,信念越记越多,就是没有开始做。模型的精细度早已超过任何一个决定需要的程度。
- 机制:三个理论指向同一点。一是信息价值〔理论〕(Howard, 1966):信息只有在可能改变决定时才有价值,不会改变决定的分析价值为零。二是有限理性 (Simon, 1955) 与生态理性 (Gigerenzer & Gaissmaier, 2011):在不确定的环境里,简单的启发式常常不输复杂的模型,因为复杂模型会过拟合噪声。三是 Cynefin (Snowden & Boone, 2007):在复杂域,「分析清楚再做」本身就是错误的策略。
- 证据:C。「分析瘫痪」作为个人现象缺乏直接的实验证据;理论推理较强。
- 对策:P04 模型够用即止,价值按「改变了哪个决定」计。
- 产品现状:过度。〔建议修改〕冷启动流程 P1 要求先建目标卡、要素图、系统动力图、路径图、单元清单,再开始行动〔产品,P1〕。v0.6 的诊断也写到任务几乎全是取证和建模〔产品,90-决策记录 v0.6〕。见 S11 懒建模。
F2.4 自我确认与 AI 回声#
- 表现:只找支持自己想法的证据;让 AI 分析自己的方案,AI 顺着说;AI 生成的推断被当成证据,再被 AI 引用。
- 机制:确认偏差〔理论〕(Nickerson, 1998);谄媚 (Sharma 等, 2024):经过人类反馈训练的模型倾向于迎合用户的观点;自我偏好 (Panickssery, Bowman & Feng, 2024):模型评估时偏爱自己生成的内容。
- 证据:B。确认偏差 稳健;谄媚与自我偏好有多项实验。
- 对策:P06 异源证据、主动反证,AI 不是 AI 的证人。
- 产品现状:覆盖。M6 规定「AI 推断不能单独移动置信度」(G3),同源证据合并为一条(G5)〔产品,M6〕。这是一心行动设计得最好的地方之一。
F2.5 在恶劣环境里学错#
- 表现:从一两次成败里得出确定的结论;把运气当本事,把坏运气当错误决策。
- 机制:恶劣学习环境〔理论〕(Hogarth, Lejarraga & Soyer, 2015):反馈稀疏、延迟、有噪声时,经验会教错。小样本加上结果偏差 (Baron & Hershey, 1988),就会学到错误的规律。
- 证据:B。
- 对策:P17 判断过程而非结果,按证据强度定步长。
- 产品现状:部分。五档置信度和「单条最多一档」防了「一次就下结论」〔产品,M6〕,但固定步长对强证据反应过慢,见 S2。