「理解审计」论文提出给 AI 研发设门槛,附审计评级标准

ronbodkin · x · 2026-11-19

MackenZ Arnold 推荐一篇与加州州长 Newsom AI 框架相关的论文(作者/顾问有重叠),核心问题:AI 研发进行到什么程度就该叫停?一个答案是用「理解(comprehension)」做指标——如果连基本层面都无法理解系统在做什么,就无法判断继续研发是否安全。

论文由 Gillian Hadfield 和 Bahrad 等人参与,提出可操作的 comprehension audits(理解审计):开发者须向独立审计师证明自己真正理解所构建的系统,以此给研发设闸门。配图展示审计评级标准:

作者认为即使通过门槛设得较低,这类审计也能形成有效激励,是提升 AI 内部研发可见性、实施 RSI 限制的重要工具。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →