前 CAISI 成员论战：安全机构难以摆脱实验室社交圈束缚

joshua_saxe · x · 2026-09-14

AI 安全研究者 Joshua Saxe 与 Halvar Flake 就 AI 安全机构的独立性展开争论。Saxe 认为，要求安全机构「独立于实验室」忽视了现实权衡：真正深入理解 LLM 又能做安全工作、且与实验室没有紧密社交关系的研究者和资助方几乎找不到。

Flake 强烈反对，认为在当前环境下，非营利安全团队的人才密度已难有更好选择，并称该机构在特朗普任内美国 CAISI（AI 安全研究所）解散风波中「救了他们」；他承认其安全能力不足，但主张安全专家应该加入而非指责。