jd_pressman：人类价值 k-复杂度高，对齐需科学而非纯推理
jd_pressman · x · 2026-11-14
jdpressman 在讨论 AI 价值对齐时提出知识可分为两类：高度可压缩的「推理型」知识（可从少数公理出发证明得出）和高 k-复杂度的「记忆型」知识（如历史事实）。他认为人类价值可能不像「价值脆弱性论」暗示的那么高复杂度，但仍高到任何第一性原理分析注定失败，因此对齐研究需要一门「科学」来系统积累这类知识。
所属事件:jd_pressman：知识分推理型与记忆型，价值对齐需科学而非纯推理(3 条相关)→
「漫话AGI」频道最新
- Mike Frank：算力到顶后 AI 也只是软件，不会成魔法 — MikePFrank · 2026-11-14
- Sakana AI首尔演讲：递归自我改进AI与三大判断 — Stefania_druga · 2026-11-14
- 作者称 AI 认知将超全人类,应对之道是「共生融合」而非禁止 — danfaggella · 2026-11-14
- Dwarkesh 脚注引热议:算力或是 AI 递归自我改进的瓶颈 — zetalyrae · 2026-11-14
- Dwarkesh：智能爆炸中的 AI 也能干好「模糊」的软活 — trevposts · 2026-11-14
- Robotics 研究者反驳泛化延迟论:企业高吞吐场景优化延迟合理 — KyleMorgenstein · 2026-11-14