学者联署「理解审计」提案:给递归自改进 AI 设安全闸门

ronbodkin · x · 2026-11-19

Ronald Bodkin、Bahrad Sokhansanj 与 Gillian Hadfield 发布论文《Comprehension Audits to Mitigate Risks from Automated AI Research》,针对 AI 已编写前沿实验室大部分代码带来的风险,提出「理解审计」机制:开发者须向独立审计师证明真正理解所构建的系统,否则推迟依赖受影响制品的开发与发布,必要时暂停并可撤销发布。Thomas Dietterich 联署并警告:探索递归自我改进(RSI)本有更安全的闸门式路径,但公司间竞赛动态正把行业推向非常不安全的轨道。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →