研究者激辩机制可解释性前景:坚持还是转向 CoT 监控路线

ChrisGPotts · x · 2026-09-07

围绕机制可解释性(mech interp)研究价值的一场圈内核心讨论。回复者 @ArthurConmy 等人认为:希望 mech interp 能赢,尤其在近期模型在无思维链(noCoT)时间跨度上有所改进的背景下;但也承认这不一定是必需的——如果 CoT 可监控性(monitorability)能再撑几个模型世代、而时间线又很短,仅靠它也够用。Chris Potts 回应承认存在幸存者偏差,但反问:如果大家当初都被悲观情绪劝退了会怎样?总需要那些坚持下去的少数人,尽管只有少数会被证明是对的。这场讨论反映了 AI 安全圈对可解释性研究路线优先级的真实分歧。