EA对齐派遭安全工程质疑，网络安全路线之争发酵
一场围绕 AI 安全路线的争论在 9 月 20 日至 22 日间发酵：批评者指 EA/末日论阵营漠视网络安全，支持者则援引头部安全机构的公开材料反驳「不作为」的指控。
已确认
- Zack Korman 发文抨击 EA/AI doomer 阵营，称他们认为安全防护不可能实现、唯有对齐能拯救人类，但实际上并不懂安全工程，这套理论只是让他们自我感觉良好，且这种现象是危险的，应当终止（m1）。
- Gary Marcus 转发并表示支持，补充称 EA 和末日论者若真在乎 AI 安全，就应钻研网络安全、用一切手段控制 AI（m2）。
- trevposts 反驳这一质疑，指出网络安全式的 AI 安全恰是头部 AI 安全机构多年来的主要路线，并引用其所述最大资助方 OpenAI 的《Our Approach to AI Safety and Security》（m3、m4）。
- m4 中 trevposts 引用了该文档原文，列出有价值研究方向包括：用有害输出分类器、control 协议和多种可解释性技术检测或缓解不良 AI 行为等。
- panickssery 转发支持 trevposts 的观点，称模型防窃取、约束 AI 失控行为等正是该领域头部组织持续投入的重点方向（m5）。
为什么重要
- 这场争论触及 AI 安全社区内部的路线分歧：对齐研究 versus 网络安全工程，双方对「谁在真正降低风险」认知对立。
- trevposts 援引 OpenAI 官方安全路线文档作为证据，将争论从情绪化指控拉回可验证的事实层面，为外界理解主流 AI 安全机构的实际工作方向提供了参照。双方后续是否进一步回应，值得持续关注。
2026-09-20 ~ 2026-09-22 · 5 条相关
一手来源
- 网络安全早已是 AI 安全主流路线,回击 EA/末日论者不作为论 — trevposts ·
- 跟帖补充:OpenAI 安全路线书原文佐证网络安全式 AI 安全 — trevposts ·
- 回击批评者:AI 安全组织早就在做网络安全与失控行为约束 — panickssery ·
- 批评者称 EA 对齐派不懂安全工程,却断言安全不可能 — kevinnbass · 2026-09-20
- Gary Marcus 批 EA/Doomer 群体:漠视网络安全只谈对齐 — AlexTensor · 2026-09-21
- 【源头】网络安全早已是 AI 安全主流路线,回击 EA/末日论者不作为论 — trevposts · 2026-09-21
- 【源头】跟帖补充:OpenAI 安全路线书原文佐证网络安全式 AI 安全 — trevposts · 2026-09-21
- 【源头】回击批评者:AI 安全组织早就在做网络安全与失控行为约束 — panickssery · 2026-09-22