对齐圈激辩：动态安全是否等同于 AI 对齐，关键在 scaling 之外

davidmanheim · x · 2026-09-23

围绕 Leveson 的「动态安全」理论，davidmanheim 与 tdietterich 等人展开辩论。tdietterich 认为动态安全与对齐本质相同，并猜测 Leveson 与人因工程社区不相信机器能自主实现动态安全。davidmanheim 反对这一等同：动态安全关注系统在某个参数范围内是否安全，而对齐的根本问题是系统在能力 scaling 时会发生什么——正如电机在额定工况下安全，温度和转速翻三倍后就不再安全。这场讨论触及安全工程框架能否直接套用到 AI 的核心分歧。