Venkatesh Rao 撰文批评：EA 承诺解决 AI 安全，反而多出一个问题
round · x · 2026-09-20
Venkatesh Rao 在 Substack 发表《EA Safety》一文，回顾自己近 20 年与理性主义社区（他称之为「EA formation」）的渊源：该社区 2006-07 年从博客 Overcoming Bias 起家，如今已成长为重塑 AI 与历史走向的机构化力量。Rao 以内部视角的旁观者身份，批评 EA 运动承诺解决 AI 安全问题、结果「现在有两个问题了」。他引用的核心论点是：一个结合了宇宙级利害、特权知识、个人使命感与行动义务的体系，往往会在使命与常规约束冲突时豁免其成员的越界行为——借此审视 EA 安全文化的结构性问题。
所属事件:Venkatesh Rao 长文检讨 EA 社区与 AI 安全(2 条相关)→
「漫话AGI」频道最新
- ICLR 2027 投稿破 6 万篇,近九成疑由 AI 主写 — DominiqueCAPaul · 2026-09-20
- cloneofsimo:做 AI 就为造出能解决一切人类问题的通用智能 — cloneofsimo · 2026-09-20
- 研究员警告:人类对 AGI 的「有用性」终将归零 — danfaggella · 2026-09-20
- AI 数学争议发酵：网友批评 Terence Tao 谨慎派拖慢救命研究 — RachelVT42 · 2026-09-20
- 「心智杀毒软件」:用模因学研究如何抵御传染性坏想法 — irinarish · 2026-09-20
- 物理学视角看 AI:能力涨而控制不涨,风险敞口必然上升 — AryHHAry · 2026-09-20