jd_pressman:技术对齐难度应不及黎曼猜想
jd_pressman · x · 2026-11-21
jdpressman 提出观点:技术对齐(technical alignment)的难度大概不会超过黎曼猜想,因此它现在主要是一个如何框定和提出问题的工程问题。这是对其上一条推文(失败的能力预测不重要,关键在于能否让 AI 产出 AI 控制的解法)的延续。
「漫话AGI」频道最新
- Tim Shi 谈 AI 安全:强模型需「了解你的用户」流程 — agihouse_org · 2026-11-21
- Tim Shi 谈安全:强模型需要 know-your-user 流程 — agihouse_org · 2026-11-21
- 验证瓶颈:AI 自主科研卡在评估、湿实验与临床试验 — agihouse_org · 2026-11-21
- Tim Shi 引 METR 数据:AI 可完成任务长度每几个月翻倍 — agihouse_org · 2026-11-21
- Cresta 团队每两年重写技术栈,Tim Shi:规模胜过修补 — agihouse_org · 2026-11-21
- Recursive 推 Eureka Machine:AI 全自动跑「提idea-实现-评估」闭环 — agihouse_org · 2026-11-21