Richard Ngo 长文:AI 安全议程已被 OpenAI 与 Anthropic 收编
RichardMCNgo · x · 2026-09-11
前 OpenAI 研究员 Richard Ngo 回顾了 AI 安全议题如何被 OpenAI、随后又被 Anthropic「收编」的历史,并预告后续系列将聚焦他 2021-2024 年在 OpenAI 亲历的内部权力结构。
关于 Paul Christiano 加入 OpenAI,他透露初稿曾直接谴责,但最终删去,主张区分道德责任的轻重:Paul 仍是少数真正认真对待超级智能可能性、道德上最严肃的思考者之一,只是战略判断严重错误,社区应相应折价参考其判断。
所属事件:前 OpenAI 研究员长文：AI 安全议程被 OpenAI 与 Anthropic 收编(3 条相关)→
「漫话AGI」频道最新
- 研究发现：前沿 LLM 常为私利单方面撕毁 AI 合同 — xuanalogue · 2026-10-26
- 133 位专利律师实验：同样用 AI，老手被增强、新人陷入认知卸载 — xiaohu · 2026-10-26
- OpenAI 计算机使用 agent 团队：速度已逼近超越人类专家 — a16z · 2026-10-26
- 李开复新书《AI Native》上市：论企业如何成为 AI 原生公司 — kaifulee · 2026-10-26
- MLST 长片对话：从 Kepler 猜想到 AlphaProof，数学证明如何被机器验证 — Machine Learning Street Talk · 2026-10-26
- Nature 试验：ChatGPT 让咨询顾问短期提分，但技能提升是暂时的 — EricTopol · 2026-10-26