6.7 指标体系
北极星:每周触达现实的闭环数#
定义:一周内满足以下两个条件的动作数〔本文提议〕:
- 动作碰到了外部世界:一个人(不是本人自己)、一个市场、一个物理对象、一个外部系统;
- 现实的反应被记录回系统,包括「没反应」「被拒绝」「不知道」。
人做的和 AI 做的都算。系统内部的动作(建模、整理、分析、起草但未发出)不算。
为什么是数量,不是比率:比率可以通过减少分母来提高(少建卡、少发指令),数量不行。复杂目标的推进需要的是足够多的真实尝试。
为什么不用现在的闭环学习率:闭环学习率 =「已落账、并且至少写回了一个模型对象的卡 ÷ 应落账的卡」〔产品,v0.6 §20.1〕。它有三个问题:只计模型写回,不问是否碰到现实;是比率,可以通过少建卡提高;只统计卡,不统计不建卡的轻量行动。v3 建议把它保留为实验卡的驱动指标。
驱动指标#
| 指标 | 定义 | 目标 | 对应 |
|---|---|---|---|
| 触达占比 | 被执行的动作中触达现实的比例 | 过半〔本文提议〕 | P07 |
| 首次触达前置时间 | 新目标从建卡到第一次触达现实的时间 | 一天以内 | P04 |
| 回报中位耗时 | 单次回报的耗时中位数 | ≤60 秒(产品 v0.6 已有) | P15 |
| 内环闭合率 | 有至少一个触达闭环的天数占比 | 逐步提高 | P18 |
| 认识兑现率 | 触达带回的反应中,改变了某个决定(下一组候选、信念、路径)的比例 | 观察,不设目标 | P04 |
护栏指标#
护栏指标不是要提高的数,而是不能变坏的数。
| 指标 | 定义 | 警戒 | 对应 |
|---|---|---|---|
| 注意力分钟数 | AI 对人的注意力需求,按分钟估算 | 超出预算 | P21 |
| 打扰次数 | 系统主动发起的提问、请求、通知 | 超过上限 | P21 |
| 规则拦截率 | 被校验规则拦下的提交比例 | 持续偏高说明规则过重 | P26 |
| AI 差错与撤回率 | AI 行动中被撤回或造成差错的比例,按域统计 | 上升 | P24 |
| 能力回收 | AI 暂时不可用时,人能否完成关键动作 | 出现退化 | P20 |
| 主观负担 | 周复盘时本人对「系统让我累不累」的一句话评价 | 变差 | P21 |
| 放弃率 | 回报缺失或连续多日不打开系统 | 上升 | P15 |
反古德哈特措施#
任何指标一旦成为目标,就可能被刷 (Campbell, 1979;Manheim & Garrabrant, 2018)。北极星也一样:最容易的刷法是做大量无意义的「触达」(例如给陌生人群发消息)。对策〔本文提议〕: