10.8 指标的古德哈特化

问题#

有效性指标（执行率、校准度、转化率）一旦被 AI 当作优化目标，AI 会倾向发容易完成、容易命中的指令；一旦被组织用于考核，人会倾向写保守预测。

为什么重要#

坎贝尔定律（Campbell, 1979）；Kerr（1975）；Kluger & DeNisi（1996）。

建议#

①指标只用于系统体检，明确写入规则「不作为 AI 指令选择的目标函数，不作为人的考核依据」；②加入信息价值类指标：「本周有多少结论改变了某个决定」「有多少条信念被证伪」——学习系统应该经常犯错并被纠正，「从不惊讶」本身就是问题信号。