安全研究者读 Nielsen 新文：ASI 威胁的不只是失控，对齐怀疑派也该担忧
michael_nielsen · x · 2026-09-22
安全研究者 Peter Barnett 评价 Michael Nielsen 关于 ASI 存亡风险的新文章：他原本以为不会认同，结果大量同意文章主旨。
文章的核心论点被他概括为：ASI 更可能让世界暴露于一整套新技术的威胁之下，而不只是「失控的 ASI」这一种风险场景——因此即便是对对齐议题持怀疑态度的人，也应当关注这一问题。
「漫话AGI」频道最新
- AI 存在性风险之争:是真威胁还是逃避现实问题的借口? — AaronBergman18 · 2026-09-22
- Hinton 质疑「机器没有感情」，LLM 中发现恐惧与痛觉相关方向 — repligate · 2026-09-22
- Alex Epstein 批评 (P)doom 是制造恐惧的伪威胁分析 — TinfoilTricorn · 2026-09-22
- Ruxandra Teslo:AI 焦虑本质是失去意义与能动性,发钱解决不了 — anshulkundaje · 2026-09-22
- 从 Erdős 到千禧难题:AI 解数学问题的速度正在指数化 — haider1 · 2026-09-22
- 推理机器远多于训练机器:AI 世界里写作将比阅读更便宜 — GregoryDiamos · 2026-09-22