jd_pressman：知识分推理型与记忆型，价值对齐需科学而非纯推理

研究者 jdpressman 提出知识可分为两类：高度可压缩的「推理型」知识，可从少量公理出发用大量 token 推导引理得到；以及高 Kolmogorov 复杂度的「记忆型」知识（如历史事实）。他将此框架应用于价值对齐，认为人类价值的 k-复杂度虽可能低于「价值脆弱性论题」所暗示的程度，但仍高到足以让任何纯粹的第一性原理分析注定失败，因此对齐研究需要依靠科学方法而非纯推理。

2026-11-14 ~ 2026-11-14 · 3 条相关