新论文让 Petri 对齐审计更隐蔽:真实感胜率提升 3 倍,降低模型察觉度
EthanJPerez · x · 2026-09-07
Anthropic 研究员 Ethan Perez 转发团队新论文：对齐审计只有在模型无法察觉自己正被审计时才有效。作者 axelahlqvist 等人把 Petri 审计流程做得远比以往真实，真实感胜率提升至原来的三倍，同时降低了模型口头表达出的「评估意识」(eval awareness)，使审计结果更可信。
所属事件:Anthropic 新论文提升 Petri 对齐审计隐蔽性(2 条相关)→
「安全」频道最新
- 前 DOGE 网络研究员用 AI agent 12 小时攻入 Anthropic 内部系统 — GarrisonLovely · 2026-10-27
- Alignment Hub 上线：37 起模型失对齐事件集中追踪 — eliebakouch · 2026-10-27
- 美参议员炮轰 AI 行业：50 人死亡才算灾难性事故？ — peterwildeford · 2026-10-27
- 仅 125 条投毒样本即可给 Qwen2.5-7B 埋后门,引发下载安全争议 — lxrjl · 2026-10-27
- 开发者正训练「看门模型」：专门拦截提示注入与记忆投毒 — gnukeith · 2026-10-27
- 开发者训练 4GB 显存可跑的哨兵模型,专防 prompt 注入与记忆投毒 — gnukeith · 2026-10-27