4.7 责任与问责
责任缺口#
责任缺口〔理论〕N（Matthias, 2004）：当机器能够学习并自主行动时，它的行为不再完全由设计者或操作者决定；传统上「谁控制、谁负责」的原则失效，出现无人可以被正当追责的缺口。
道德缓冲区#
道德缓冲区〔理论〕N（Elish, 2019）：在人机系统出事时，责任常常落在离事件最近的人身上，即使这个人对系统的行为几乎没有控制权。就像汽车的溃缩区吸收撞击，这个人吸收了道德和法律的责任，保护了系统本身和它的设计者。
有意义的人类控制#
有意义的人类控制〔理论〕N（Santoni de Sio & van den Hoven, 2018） 提出两个条件：
- 追踪：系统的行为要对相关人的理由（价值、意图）有响应；
- 溯源：系统的每个结果都能追溯到至少一个理解系统能力、并认同自己道德责任的人。
欧盟《人工智能法》（欧盟, 2024） 对高风险系统规定了人类监督的要求：监督者要能理解系统的能力和局限、能察觉自动化偏差、能决定不使用或推翻系统的输出、能中断系统。
一心行动的责任链#
v3 的设计〔本文提议〕：
| 层 | 谁负责 | 机制 |
|---|---|---|
| 主人层决定 | 人类模块（本人） | 只有本人能写（P22） |
| AI 的授权 | 授予授权的人 | 每一次升级都记录授权人；L3 以上对外动作的法律责任由授权人具名承担 |
| AI 的具体行动 | 执行的模块 + 授权人 | 行动记录可归因到模块、任务单、授权 |
| 系统内写入 | 写入的模块 | 留日志、可回滚 |
| 规则本身 | 产品开发者 | 每条规则写明防的失败机制和复查日期（P27） |
这张表的重点是：AI 模块承担的是「可归因」的责任（它的行动可以被记录、评价、并影响它的授权），法律责任由具名的人承担。这样既不把 AI 当成没有责任的工具，也不让责任落进无人承担的缺口，更不让本人成为道德缓冲区：本人只对自己授予的授权负责，不对超出授权的 AI 行为负责。
可中断与可撤回#
（Shavit 等, 2023） 的七项实践里，有三项直接关于责任：可归因（每个行动能追溯到智能体和授权人）、可中断（人随时能停止）、自动监控（另一个系统在旁边检查）。v3 的对应设计见 P25。