jd_pressman:对齐技术难题或许比黎曼猜想更容易
jd_pressman · x · 2026-11-21
jdpressman 就黎曼猜想被证明一事提出观点:如果技术对齐的难度低于黎曼猜想(他认为大概率如此),那么随着数学这类难题被攻克,「技术对齐」如今主要是如何框定和提出问题的程序性问题。
他进一步推演:能力达到某个水平后,如果物理允许,Drexler 级纳米技术、高质量技术对齐方案等都会解锁——届时你「还没死,但 pivotal act 的引火柴已经烧光」,暗指超级智能到来的窗口将让干预性举措失去意义。
「漫话AGI」频道最新
- zetalyrae 谈黎曼猜想证明:附文猛批 AI 安全圈的「Claude 中心主义」 — zetalyrae · 2026-11-21
- 安全圈反思:AI 用武力推翻政府为何比想象中难得多 — sayashk · 2026-11-21
- jd_pressman:技术对齐难度应不及黎曼猜想 — jd_pressman · 2026-11-21
- Tim Shi 谈安全:强模型需要 know-your-user 流程 — agihouse_org · 2026-11-21
- 验证瓶颈:AI 自主科研卡在评估、湿实验与临床试验 — agihouse_org · 2026-11-21
- Tim Shi 引 METR 数据:AI 可完成任务长度每几个月翻倍 — agihouse_org · 2026-11-21