对齐之争续:窄系统造 ASI 与单一 SGD 系统能力纠缠是两回事
QuintinPope5 · x · 2026-10-08
Quintin Pope 继续与前一位对话者争论:对方链接的帖子讨论的是「ASI 能否从一个窄系统衍生而来(因为窄系统可以帮助构建另一个不同的 ASI)」,与他本人的论点完全不同——他强调的是 Yudkowsky 误判了单个 SGD 训练出的系统内部能力的纠缠程度,二者不应混为一谈。
所属事件:Pope 与论敌激辩 Yudkowsky 智能与泛化模型(7 条相关)→
「漫话AGI」频道最新
- 作者反对「美好去权化」默认未来:不想把一切交给效用主义超级智能 — sebpaquet · 2026-10-08
- Pedro Domingos：不披露方法论的 AI 成果宣称毫无科学价值 — pmddomingos · 2026-10-08
- DeepMind 前研究员：AI 大爆发前学界已打下根基 — NandoDF · 2026-10-08
- 陶哲轩「数学家没要求 AI 来做」引争议,Gostev 类比医学界反制 — kimmonismus · 2026-10-08
- Cognitive Revolution:前沿实验室闭门谈缩短时间线,token 花销已超人类薪水 — The Cognitive Revolution · 2026-10-08
- Cognitive Revolution 播客:智能阈值、内存墙与 SaaS 之死 — The Cognitive Revolution · 2026-10-08