AI 风险讨论进化：从启发式论辩到具体接管威胁模型
herbiebradley · x · 2026-09-24
Herbie Bradley 评价 Holden Karnofsky 关于极强 AI 如何接管世界具体路径的旧文，认为它代表了 2022 年那套令他反感的 AI 风险话语风格——大量依赖高层启发式论证，说服力不足。
他对比指出，如今得益于对 reward seeking 行为和网络攻击型 AI 能力的更深入研究，已经可以具体拆解 AI 接管的威胁模型，而不是停留在抽象推演。
所属事件:Holden Karnofsky「AI 可击败全人类」旧文引发重读与反思(2 条相关)→
「漫话AGI」频道最新
- AI 从业者激辩：AI 集权垄断比模型失控更值得担心 — Dan_Jeffries1 · 2026-09-24
- Schmidhuber 重申：AGI 在我有生之年内到来，引用 2014 指数时间线 — SchmidhuberAI · 2026-09-24
- AndyMasley 系列长文:一份不偏不倚的 EA(有效利他主义)全景介绍 — AndyMasley · 2026-09-24
- AI 普及瓶颈不在模型而在资本组织：好实践者稀缺、落地应用难 — teodorio · 2026-09-24
- Gary Marcus 质疑 AGI 承诺:Elon 2025 的话算数吗 — GaryMarcus · 2026-09-24
- 研究:中美民众对AI意识接受度差异显著但同支持国际合作 — PeterBowdenLive · 2026-09-24