学者提出「理解审计」框架,为递归自改进 AI 设安全闸门
围绕加州州长 Newsom 的 AI 治理框架,Ronald Bodkin、Bahrad Sokhansanj 与 Gillian Hadfield 发布论文《Comprehension Audits to Mitigate Risks》,提出用「理解审计」回答「AI 研发进行到什么程度就该叫停」的问题:即衡量人类能理解多少自动化研究成果,并据此为递归自改进 AI 设置安全门槛,论文还附带了具体的审计评级标准。多位学者赞赏该治理报告内容扎实,并建议补充这类人类理解度的测试。
2026-11-19 ~ 2026-11-19 · 3 条相关
- 学者联署「理解审计」提案:给递归自改进 AI 设安全闸门 — ronbodkin · 2026-11-19
- 「理解审计」论文提出给 AI 研发设门槛,附审计评级标准 — ronbodkin · 2026-11-19
- 学者建议:AI 治理报告应补测「人类能理解多少自动化研究成果」 — ronbodkin · 2026-11-19