研究者评 EA 与 AI 存量风险话语圈:承认贡献,也指出失控
Dr_Atoosa · x · 2026-09-10
DrAtoosa 在长线程中评述 AI 存量风险(AI x-risk)话语与 EA/YS 圈子的关系:
- 她指出,许多关心 AI 灾难性风险的人完全在 EA(Effective Altruism)和 YR 圈子之外,甚至不知道这些社区的存在,但讨论时却不得不使用在这些圈子里流行的语言和框架。
- 公平起见也承认正面贡献:早期 EA 以数据驱动的方式聚焦全球贫困等可解决的具体问题,展示了大规模集体行动的潜力。
- YR 圈创造的一些术语催生了切实重要的技术研究,「reward hacking」就是一例。
- 但随着社群发展,求真逐渐让位于对权力和地位的追求,一些东西开始失控。
所属事件:研究者连发五篇长文：正视AI存亡风险不必隶属EA阵营(5 条相关)→
「漫话AGI」频道最新
- 博主推演 AGI 场景：2 万个智能体兼职科研将触发递归自我改进 — haider1 · 2026-09-10
- 摄影师指 Meta AI 标签正在瓦解公众对科学与数据的信任 — zemotion · 2026-09-10
- Voyage CEO Oliver Cameron:未来 6 个月将见证「一个世纪的进步」 — McDonaghMatthew · 2026-09-10
- Gary Marcus 呼吁抵制生成式 AI:前沿实验室明知危险却无缓解计划 — GaryMarcus · 2026-09-10
- Dan Shipper 与网友激辩：自动化假设下人类净工作量真的会减少吗 — nbaschez · 2026-09-10
- 拔电源能否阻止 AI 灭世？X 网友激辩失控场景的前提 — Throwaway137658 · 2026-09-10