Dietterich：安全非静态属性，对齐是需持续维持的过程

知名 AI 安全学者 Thomas Dietterich 发布长线程，借 Nancy Leveson 的《Engineering a Safer World》论证：“安全”并非一劳永逸的属性，对齐也不是模型固有属性，而是需要主动维持的动态过程。他还指出，系统组件的失效模式与运行环境变化呈现无界多样性，例外仅限于在不变环境中执行狭窄任务的简单系统。

2026-09-21 ~ 2026-09-21 · 2 条相关