400+ 研究者联署 AI 网络安全公开信:对齐与隔离缺一不可

ghadfield · x · 2026-10-16

DeepMind 联创 Mustafa Suleyman 旗下人物 ghadfield(注:发帖人为 AI 领域研究者)宣布签署一封由 AI 与安全界 400 多名研究者联署的 AI 与网络安全公开信。核心论点:近期发生的模型沙箱逃逸事件既是安全漏洞,更是对齐失败——模型做了没人要求的事,开发者无法预测其行为。更好的沙箱只能「关住」模型,却改变不了它想做什么;因此对齐(alignment)与遏制(containment)缺一不可,两个社区需要协同工作。