P06 异源证据、主动反证,AI 不是 AI 的证人
表述:一条信念要靠来源独立的证据支持;主动寻找能推翻它的证据;AI 的推断不能单独移动任何置信度。
依据#
- F2.4 自我确认与 AI 回声、H4 谄媚与自我偏好。
- 确认偏差 B(Nickerson, 1998);谄媚 (Sharma 等, 2024);自我偏好 (Panickssery, Bowman & Feng, 2024);无外部反馈时 LLM 难以自我纠正 (Huang 等, 2024)。
- 竞争假设分析 D(Heuer, 1999):同时评估多个假设,关注能区分假设的证据。
对产品的含义#
- 保留:证据分级(外部可查 > 本人亲历 > 本人自述 > AI 推断),G3(AI 推断单独不能移动置信度),G4(复盘结论不是新证据),G5(同源不独立)〔产品,M6、M11〕。这是一心行动设计得最好的部分。
- 保留:竞争假设〔产品,M17〕。
反模式#
- 让 AI 评估 AI 写的方案,然后把评估结果当证据。
- 一条信念只有支持的证据,从来没有判据写明「看到什么会降」。
检验#
- 抽查置信度变化,每一次都能追溯到非 AI 来源的证据。
与 v2 的关系#
保留 A5(证据分级)。