新论文提出「理解审计」：人类看不懂就暂停 AI 研发
Ronald Bodkin、Gillian Hadfield 等人在 arXiv 发布预印本《Comprehension Audits to Mitigate Risks from Automated AI Research》，提出「理解审计」（comprehension audits）这一 AI 研发保障机制：当负责人已看不懂自己发布的东西时，说明研发节奏过快，应予拦截。
已确认
- 作者在推文中指出，现有针对 AI 自我改进的放缓方案——能力门槛、算力上限、强制延迟——都以 AI 为闸门，却没有一个要求「负责人还能解释清楚造出来的东西是什么」；缺乏理解的审批毫无意义。
- 具体机制：独立审计员进驻开发团队，随机抽选一项贡献（如已完成的实验、新的训练配方、新数据集），以临时短通知召开会议，由责任团队以无指责的「论文答辩」形式讲解其做什么、如何工作及依赖关系——不涉及模型内部原理——并对理解水平评分。
- 评分不合格时，暂停依赖该贡献的发布。作者还将类似答辩式理解评分与发布暂停机制扩展到开源 AI 贡献的审查讨论中，作为系列线程的一部分（与对 2000+ 仓库的分析同属一系列）。
- 作者强调这不是假设性风险：Anthropic 数据显示 Claude 已主导其约 26% 的研发工作。
为什么重要
- 该提案为递归自我改进（RSI）治理提供了一个不同于能力/算力门槛的新抓手：以「人类理解度」作为限速指标，操作上以答辩考核落地，且明确区分对产出贡献的理解与对模型内部机制的理解，降低执行门槛。
- 随着 AI 自动化研发占比快速上升（如 Anthropic 的 26% 数据），缺乏理解验证的发布审批可能成为失控风险的入口，该机制为实验室与开源社区提供了可讨论的具体治理模板。
2026-10-09 ~ 2026-10-09 · 8 条相关
一手来源
- 「理解审计」新提案：AI 自我改进应看人是否还看得懂造了什么 — ronbodkin ·
- 提出「理解审计」机制:人类看不懂就暂停 AI 研发 — ronbodkin ·
- 「理解力审计」提案:独立审计员突击质询 AI 实验与训练配方 — ronbodkin ·
- Claude 已主导 Anthropic 26% 研发,新论文提议「理解审计」拦截失控风险 — ronbodkin · 2026-10-09
- 新论文提「理解审计」:人类看不懂就暂停 AI 自我改进研发 — ronbodkin · 2026-10-09
- 【源头】「理解审计」新提案：AI 自我改进应看人是否还看得懂造了什么 — ronbodkin · 2026-10-09
- 【源头】「理解力审计」提案:独立审计员突击质询 AI 实验与训练配方 — ronbodkin · 2026-10-09
- 开源 AI 贡献审查提案:答辩式理解评分与发布暂停机制 — ronbodkin · 2026-10-09
- AI 代码审查方案:答辩制考核+不合格暂停发布机制 — ronbodkin · 2026-10-09
- 人类审查减半：学者提「理解审计」把关 AI 自我改进 — ronbodkin · 2026-10-09
另有 1 条近重复转述:ronbodkin