OpenAI 研究员亲见对齐风险证据后转向，安全派质疑其为何仍留下
aiamblichus · x · 2026-08-25
一位安全社区作者针对 David Manheim 的转述提出质疑：许多 OpenAI 研究员原以为错位（misalignment）危险只是理论、进展会是渐进的，但在亲眼看到强证据后，越来越多的人开始改变看法。
作者的批评点是：如果风险真到了需要拿朝鲜和国家安全作类比的程度，把 RSI 系统只交给 NSA 并不能避免失控，甚至可能更糟——面对这种级别的错位风险，唯一安全的做法是根本不造这台末日机器。他不解为何当事人还在为该公司工作。
所属事件:越来越多 OpenAI 研究员开始重视对齐风险(2 条相关)→
「漫话AGI」频道最新
- 数据公司为何暴赚?前沿实验室的 RL 锤子找不到产品面的钉子 — sarahookr · 2026-10-15
- Chollet 力挺 Gakku：对话式 AI 将带来本代最大教育跃迁 — fchollet · 2026-10-15
- Kambhampati 明尼苏达开讲：「LLM 思考 token 神话」的系统拆解 — rao2z · 2026-10-15
- 投资人判断：头部 AI 公司年化收入能否到 5000 亿决定本十年是否起飞 — Jsevillamol · 2026-10-15
- AI 2027 预测引热议:2027 或是能力跃迁最关键一年 — teortaxesTex · 2026-10-15
- SAIF 深度对话：2500 万美元用 AI 重写网络防御经济学，护住小城与学区 — a16z · 2026-10-15