前沿实验室代码多由 AI 编写，论文提出「理解力审计」安全门槛
ronbodkin · x · 2026-10-16
LawAI 与研究者 Ron Bodkin、Bahrad Sokhansanj、Gillian Hadfield 发布论文，提出「comprehension audits（理解力审计）」机制，应对前沿 AI 实验室代码已多数由 AI 编写带来的人 oversight 不足风险。
核心设计：
- 要求前沿 AI 开发者向独立审计员解释其研发贡献，以证明「负责的人理解自己在造什么」；
- 审计独立管理、出具分级报告，构成一道门槛：无法证明人类理解时暂停开发，多次失败则后果逐级升级；
- 论文对主流开源 AI 项目的分析发现：代码产出增加的同时，每行代码的人工评审评论率下降，自动化批量账号的评审率更低；
- 作者建议实验室引入嵌入式独立审计员执行该机制。
「安全」频道最新
- 中国拟将大模型、AI 智能体等 23 项 AI 技术列入出口管制 — LMFuture · 2026-10-16
- 零工人被迫人脸扫描加 16 个追踪器,研究者质疑「同意」的真实性 — AntonioCasilli · 2026-10-16
- 开发者不满现有工具,自训 PII 检测器,训练样本暗藏诱饵实体 — HankYeomans · 2026-10-16
- Anthropic 开放内部权限让 METR 审计模型与安全实践 — The Decoder · 2026-10-16
- NVIDIA agentic 演示全靠 guardrails,Reddit 作者疾呼:模型外检查不可少 — Creamy-And-Crowded · 2026-10-16
- Vitalik 给 AI Agent 套上 Tor+zkAPI+本地改写，造出「偏执模式」隐私壳 — DavideCrapis · 2026-10-16