jd_pressman:人类价值复杂度高,第一性原理分析注定失败
jd_pressman · x · 2026-11-14
研究者 jdpressman 在讨论价值对齐问题时提出:人类价值的 k-复杂度虽可能低于「价值脆弱性论题」所暗示的程度,但仍高到足以让任何纯粹的第一性原理分析注定失败。因此对价值的研究需要一种「科学」方法。
他进一步引用 @Meaningness 的观点指出:真实的科学并非从单一方法推导而来,而是建立在经验主义与理性推理的某种组合之上的「强力视角」,不同科学中两者的配比差异很大。这套论证指向对齐研究需要一门关于价值的经验科学,而非纯逻辑推演。
所属事件:jd_pressman:知识分推理型与记忆型,价值对齐需科学而非纯推理(3 条相关)→
「漫话AGI」频道最新
- Mike Frank:算力到顶后 AI 也只是软件,不会成魔法 — MikePFrank · 2026-11-14
- Sakana AI首尔演讲:递归自我改进AI与三大判断 — Stefania_druga · 2026-11-14
- 作者称 AI 认知将超全人类,应对之道是「共生融合」而非禁止 — danfaggella · 2026-11-14
- Dwarkesh 脚注引热议:算力或是 AI 递归自我改进的瓶颈 — zetalyrae · 2026-11-14
- Dwarkesh:智能爆炸中的 AI 也能干好「模糊」的软活 — trevposts · 2026-11-14
- Robotics 研究者反驳泛化延迟论:企业高吞吐场景优化延迟合理 — KyleMorgenstein · 2026-11-14