可解释性研究者激辩:NLA 对前沿安全到底有多大用处

banburismus_ · x · 2026-09-27

AI 安全研究者 banburismus 与 thebasepoint 就可解释性（interp）尤其是自然语言抽象（NLA）的实际价值展开讨论。thebasepoint 区分了"香肠怎么做"（机制层面）与"香肠是什么"（行为层面）两类可解释性成果，认为后者对理解模型行为问题更有用，NLA 九成属于后者。banburismus 回应称：在他的心智模型中，interp 目前并非任何前沿安全工作的承重环节，其真正价值在于未来需要高可靠性证据之时；他认为幻觉与因果证据薄弱是当前问题，NLA 若要提供高置信证据反而路径更弱，并追问 Anthropic 是否真会基于 NLA 证据暂停模型发布。