对齐研究者控诉：社区对 OpenAI 的敌意正在酿成死亡螺旋
morqon · x · 2026-09-07
前 OpenAI 对齐团队成员 Jacqueline（jachiam0）发长文表达深层不满：理性主义/EA 色彩的对齐社区与 OpenAI 的关系以极端敌意和对抗性施压为标志。
- 她承认对齐社区一方的论点并非全无道理，也能追溯双方的「以牙还牙」历史；但认为存在一个死亡螺旋：对齐与安全社区持续猛攻 OpenAI，迫使对齐研究者离职——她预期这一因素在日后回顾「这场奇点哪里出了问题」时会被重点提及。
- 她认为换作大多数公司，在这种攻势下早就像 Meta 那样干脆放弃这些问题；OpenAI 值得被肯定的一点是没有放弃对齐工作。
该帖引用了 Meta 透明度律师 Nathan Calvin 的评论，后者称 Meta 内部讨论是「一扇罕见的直窗」，展示公司激励如何指向远离透明度、甚至远离产品危害的内部研究；这对思考如何激励前沿 AI 开发透明化的人非常相关。
「漫话AGI」频道最新
- 一周大事速览:Cybercab 无方向盘载客、费马大定理 Lean 证明完成 — Dr_Singularity · 2026-09-07
- 作者推荐陶哲轩与 Brian Eno 谈 AI 的两篇必读文章 — dbreunig · 2026-09-07
- 陶哲轩批评 AI 实验室刷数学 benchmark：该比拼新洞察而非新数字 — Old-School8916 · 2026-09-07
- Mollick 谈「锯齿状 AGI」:多领域超人类但并非全面超越专家 — emollick · 2026-09-07
- NYT评论区风向大转：热评前三均不买账AI风险质疑论 — GarrisonLovely · 2026-09-07
- 张晶观察：evals圈核心人物渐失本色，社区风气令人担忧 — zemotion · 2026-09-07