roon 称对齐自 RLHF 无根本进展,TheZvi 回怼"你错了"
TheZvi · x · 2026-10-13
OpenAI 研究员 roon 发推称:自 RLHF 以来,对齐领域没有根本性进展,大部分工作仍停留在"民间理论"层面,而非科学或工程学科;他此前关于"能力增长将远远跑在可解释性与对齐前面"的预测已经成真。
AI 评论人 TheZvi 转发并简短回怼:"你错了!"这一交锋折射出圈内关于对齐研究实际进展的持续争论:一派认为该领域缺乏可累积的科学方法,另一派认为 RLHF 之外(RRM、可解释性、评测等)已有实质积累。
所属事件:对齐停滞论引爆圈内交锋，OpenAI首席科学家表态(19 条相关)→
「漫话AGI」频道最新
- 瑞典斥数亿克朗重回纸质教材，280万儿童研究指屏幕伤学习 — Eric520CC · 2026-10-14
- 学者畅想「数学书」未来：交互式、自更新、以 GitHub 仓库形态存在 — prof_g · 2026-10-14
- 智能过剩时代最稀缺的是现实反馈，企业数据是宝库 — jeremystan · 2026-10-14
- token 支出仅占人力支出 0.23%，离 AGI 级渗透还很远 — louisvarge · 2026-10-14
- Gabriel 提出「全民 AI 股权」:欧洲投资者几乎错失全部 AI 涨幅 — gabriel1 · 2026-10-14
- signull 批科技圈滥用杰文斯悖论：一半人没读懂，也不适用于超智能 — signulll · 2026-10-14