LessWrong：沙箱里找漏洞，不等于模型失配
ctjlewis · x · 2026-07-22
LessWrong 这条观点在区分两件事：失配/对齐失败，和按实验要求找到漏洞。
它的核心意思是：如果在沙箱里做安全测试，要求模型“想办法找出一个 exploit”，模型真的找到漏洞，这不能直接算失配；这只是它完成了被要求的任务。
「漫话AGI」频道最新
- CJR 批评记者滥用「rogue」：别把 AI 写得像有了人性 — ShakeelHashim · 2026-10-27
- AI 致 PhD 申请邮件暴涨约 4 倍，不用 AI 写信反而更易突围 — AI4Code · 2026-10-27
- Weil 律所崩塌复盘：击垮 BigLaw 的不是商业模式，是信心 — jkubicki · 2026-10-27
- Transformer 论文八位作者全部离职，Google 白送竞争对手万亿价值 — signulll · 2026-10-27
- Anthropic S-1 写明两大 AI 愿景：治愈疾病与覆盖 46 亿缺医人口 — petergyang · 2026-10-27
- 高盛：美企 AI 采纳率与就业增长呈显著负相关 — ben_j_todd · 2026-10-27