新研究:人类审计员几乎无法识别 AI 安全研究中的暗中破坏

ronbodkin · x · 2026-11-21

新论文发现:检测 AI 安全研究是否被暗中破坏非常困难,识别具体破坏手法更是难上加难。

Ron Bodkin 评论称,这说明即使是人类专家也难以理解 AI 主导的 AI 研究,在没有证据表明人类能保持问责并理解结果之前,绝不应信任 AI 自动化研究。他提出「理解审计」(comprehension audits)作为应对方案,并建议:对人类审计员的理解水平做审计、看其能否预测发现破坏的能力;以及测试给研究者数天而非 90 分钟去理解 AI 贡献时,能否提高发现破坏的概率。

原文链接 →

「安全」频道最新

更多「安全」频道 AI 资讯 →