Naval 转发锐评:真诚的 AI 末日信徒比贪婪者更危险
naval · x · 2026-09-19
Naval 转发并认可 @ArtemisConsort 的观点:作者自称深受理性主义/LessWrong/EA 影响成长,因此不会把 e/acc 对安全派的「权力游戏」指控简单当作犬儒表演——那些人真心相信整个光锥的命运系于 AI,必须通过全球治理和监控国家完全控制 AI 发展。作者的核心论点:贪婪的犬儒可以谈判收买,而真诚的信徒不能;他们对单一目标的偏执聚焦,恰恰通过工具性收敛导向不受约束的权力追逐——与他们警告 AGI 危险的逻辑如出一辙。
「漫话AGI」频道最新
- Noam Brown 澄清访谈剪辑：隔离智能体仍可能靠微量信息协同 — jachiam0 · 2026-09-19
- 机器人 AI 不能照搬 LLM 逻辑：5% 错误率就足以毁掉产品 — carlosdponx · 2026-09-19
- Anthropic 研究员辞职警告十年内灭世风险，作者用复利曲线反驳 — alex_verem · 2026-09-19
- Palantir 框架讨论：机器智能加速时代的机构适应性问题 — curious_vii · 2026-09-19
- Dario Amodei 提出给前沿 AI 降速方案,黄仁勋带头反对 — TechCrunch AI · 2026-09-19
- 与其封杀超级智能，不如先禁体育博彩与预测市场 — bindureddy · 2026-09-19