Neil Chilson 质疑末日论：你的信念如何被证伪？
neil_chilson · x · 2026-10-07
AI 与技术政策研究者 Neil Chilson 在与 Scott Alexander 的辩论中提出两点核心质疑：
- 可证伪性：末日论者的常见表述——「失对 AI 出现时会看起来和已对齐的 AI 一模一样」「等大家都觉得 AI 很安全时才更危险」「不具体描述怎么出问题以免人们过度更新」——让整套装 beliefs 听起来不可证伪。他追问：除了证明自己对 scenarios，有没有什么事实发展会证明你们错了？
- 反馈回路：他的关键反对不是「不做实验学不到东西」，而是现实世界已有的大型复杂系统形成的反馈回路，会强力抵抗任何快速、集中的变革——这是智能规模难以穿透的。
「漫话AGI」频道最新
- Paul Graham：Replit 比我想的更重要，AI 以代码形式渗透组织 — ycombinator · 2026-10-07
- Coinbase 研究院发文：AI Agent 时代需要机器对机器微支付，稳定币是最佳载体 — MurrLincoln · 2026-10-07
- Bindu Reddy：别做订票 Agent 了，超级智能正被困在双头垄断里 — bindureddy · 2026-10-07
- AI 山寨书冒充正版：亚马逊搜索 AGI 畅销书仍被按需印刷新书截流 — kevinroose · 2026-10-07
- Ben Goertzel 撰科幻式「后奇点超智」训诫:人类该担心什么 — bengoertzel · 2026-10-07
- 物理学家 Sabine 指出:专家对 AI 进展的预测离谱地不准 — skdh · 2026-10-07