WAIC 上的可控自进化安全框架
teortaxesTex · x · 2026-07-19
帖子转发了一张 WAIC 现场幻灯片，主题是 **“Controllable Self-Evolution”**。核心观点是：安全且可控的自我进化，前提是系统的认知足够对齐、对世界的理解足够完整。 幻灯片里还讨论了 AI safety states、stable AI behavior、world models / metacognition / belief 等概念，试图用一个理论框架解释何种状态下，安全/不安全行为可以被“合理化”并保持可控。