学者联署「理解审计」提案:给递归自改进 AI 设安全闸门
ronbodkin · x · 2026-11-19
Ronald Bodkin、Bahrad Sokhansanj 与 Gillian Hadfield 发布论文《Comprehension Audits to Mitigate Risks from Automated AI Research》,针对 AI 已编写前沿实验室大部分代码带来的风险,提出「理解审计」机制:开发者须向独立审计师证明真正理解所构建的系统,否则推迟依赖受影响制品的开发与发布,必要时暂停并可撤销发布。Thomas Dietterich 联署并警告:探索递归自我改进(RSI)本有更安全的闸门式路径,但公司间竞赛动态正把行业推向非常不安全的轨道。
「安全」频道最新
- Dwarkesh 断言中国距前沿 AI 实验室仅差 12 小时而非 12 个月 — teortaxesTex · 2026-11-19
- 加州推进AI安全新规:强制基线标准、紧急关闭协议与递归自我改进限制 — EthanJPerez · 2026-11-19
- 活动者将集会 Anthropic 总部,呼吁禁止递归自我改进 RSI — DavidSKrueger · 2026-11-19
- 开发者开源企业级 Agent 审计追踪模型:10 个数据模型找安全工程师挑刺 — TheHamzaShahbaz · 2026-11-19
- AI 暗藏软件后门静候关闭数据中心之日?开发者的末日推演 — bendee983 · 2026-11-19
- 2026 年网络安全现状:对 AI 喊话被吵到只能投降 — emax · 2026-11-19