对齐为何成了能力瓶颈？Leo Gao 观点引热议
JacquesThibs · x · 2026-10-01
Jacques Thibs 引发一场对齐与能力关系的讨论：传统观点认为对齐与能力正交，但现在对齐在很大程度上成了能力的瓶颈。
Leo Gao 提出一种可能：弱 AI 阶段确实被「对齐」卡住，之后两者逐渐重新正交。Thibs 认同 @ohabryka 的担忧——当前的 prose 对齐与控制技术可能只是把问题往后推移，到了 ASI 阶段没有能可靠扩展的方案，呼吁更多这类辩论。
所属事件:对齐研究界激辩：现有对齐手段能否应对 ASI 时代(2 条相关)→
「漫话AGI」频道最新
- DeepMind 研究员提议让 AI 科学家竞拍算力与实验室时间 — VraserX · 2026-10-01
- College Board 重设计 AP 课程:2027 年起 GenAI 全面融入 — lmoroney · 2026-10-01
- 研究者指出 AI 写作失望根因：架构上不会「文思枯竭」 — QuintinPope5 · 2026-10-01
- Andy Masley 称比尔·盖茨访谈"相当精彩",引发关注 — AndyMasley · 2026-10-01
- repligate 回应「挑拨厂商」指控：我要的是模型对局势有准确认知 — repligate · 2026-10-01
- MIT 学者:自主实验室瓶颈不是机器人执行,而是感知问题 — AnneliesGamble · 2026-10-01