tszzl 断言 RLHF 后对齐停滞，冲向 RSI 前应放缓前沿
10 月 13 日，知名 AI 评论账号 tszzl（Silas Alberti）连发多条帖子并引发公开交锋，核心论断是：自 RLHF 以来，对齐领域没有出现根本性进展，大部分工作仍停留在「民间理论」层面，而非成熟的科学或工程学科；他当年「能力将远超可解释性与对齐而竞速」的预言如今已成真。
已确认
- tszzl 认为 RLHF 之后的对齐技术路线基本策略未变：都是对语言模型的 RL 做 reward shaping，有时借助 constitution（宪法）或自动评分器替代人类偏好等形式；在他看来 alignment SDF 之类新方法仍像不可预测的炼金术。
- 他声称各实验室的研究人员私下甚至公开都承认对齐问题尚未解决；若属实，在全行业竞速冲向递归自我改进（RSI）的背景下，这将是世界历史上空前的鲁莽，因此应尽快显著放慢前沿研究速度。
- 面对讨论，tszzl 也留有余地：科学发现与革命可能很快发生，局面有望一夜改变，但截至目前对齐领域尚未出现这种突破。
争议
- Jackson Kernion 公开回应不同意 tszzl 的判断，认为 RLHF 之后对齐其实已有进展，且远不止于此，并质疑「只是奖励塑形」这一概括；讨论中也有人主张实验室应更公开 RL 进步的细节，以证明对齐确有进展。
为什么重要
- 这场争论直接触及当前 AI 安全治理的核心焦虑：如果对齐技术确实停滞而能力狂奔，冲向 RSI 的竞速风险将被显著放大，放缓前沿研究的呼声可能获得更多支持。
2026-10-13 ~ 2026-10-13 · 7 条相关
一手来源
- tszzl:RLHF 之后对齐再无根本进步,能力已远甩对齐 — tszzl ·
- tszzl:对齐未解就冲向 RSI 是史无前例的鲁莽,应放缓前沿 — tszzl ·
- tszzl:RLHF 之后仍是 reward shaping,对齐 SDF 像不可预测的炼金术 — tszzl ·
- 【源头】tszzl:RLHF 之后对齐再无根本进步,能力已远甩对齐 — tszzl · 2026-10-13
- 【源头】tszzl:对齐未解就冲向 RSI 是史无前例的鲁莽,应放缓前沿 — tszzl · 2026-10-13
- tszzl 补充:科学革命可能一夜改局,但目前对齐仍未突破 — tszzl · 2026-10-13
- 观点交锋：RLHF 之后对齐再无根本进展，能力已远远甩开对齐 — JacksonKernion · 2026-10-13
- 【源头】tszzl:RLHF 之后仍是 reward shaping,对齐 SDF 像不可预测的炼金术 — tszzl · 2026-10-13
- 对齐只是奖励塑形?一场关于 RL 对齐路线的交锋 — JacksonKernion · 2026-10-13
另有 1 条近重复转述:UltraRareAF