Geoffrey Irving 论哲学辩论深度与治理中期的进展可能
geoffreyirving · x · 2026-08-27
Geoffrey Irving 回应 Wei Dai 关于在 Resolution 峰会不专注于广播负面结果的质疑。他提出三点:
- 复杂性模型: 他认为 PSPACE 比 EXPTIME 更适合模拟哲学论证树的深度,反驳了对深度的低估。
- 中期叙事: 如果治理取得成功,可以致力于筛选掉直接获取所有效用的方法,例如通过简化的单代理价值对齐来阻止智能体进入无法理解的均衡。
- 广播负面结果: 对此进行了补充说明(原文截断)。
「漫话AGI」频道最新
- 报道：OpenAI 预计年底实现 AGI，已具自主研究能力 — rand_longevity · 2026-08-27
- AI解放人力后，社区自治实验预演未来 — cccalum · 2026-08-27
- AI 不是技术革命，而是智力革命 — JoshuaJBouw · 2026-08-27
- Funding the Commons 论坛聚焦 AI 财富分配议题 — omojumiller · 2026-08-27
- 评 Anthropic 论文：内部表征不等于模型拥有情感 — ValerioCapraro · 2026-08-27
- 投资人 Nic Carter 预言：开源模型将吃掉 99% 推理流量 — thedealdirector · 2026-08-27