tszzl:RLHF 之后仍是 reward shaping,对齐 SDF 像不可预测的炼金术
tszzl · x · 2026-10-13
有人在讨论中认为 RLHF 之后对齐技术已有不少进展,实验室应更公开 RL 进步的细节。知名 AI 评论账号 tszzl 回应:其实基本策略没变,都是对语言模型 RL 做 reward shaping——有时用 constitution 或自动评分器替代偏好数据。他认为「对齐 SDF」或许算新方法,但那才是真正不可预测的炼金术。
所属事件:tszzl 断言 RLHF 后对齐停滞，冲向 RSI 前应放缓前沿(7 条相关)→
「漫话AGI」频道最新
- 对齐研究者为何要慢下来：前 OpenAI 人士谈「对齐寒冬」 — JacquesThibs · 2026-10-13
- Yacine 感慨:大模型公司吸走多少个人数据令人不安 — yacineMTB · 2026-10-13
- 开发者直觉:智能仍缺一块「微积分级」的关键拼图 — fkasummer · 2026-10-13
- Sakana AI 提出多智能体自监督 MASS,让自我改进 AI 避免自我强化错误 — hardmaru · 2026-10-13
- Epic CEO Tim Sweeney：全公司转向「最大 AI 加速」 — Kanute3333 · 2026-10-13
- Yacine 感慨软件太烂：有了 AI 不如自己动手写 — yacineMTB · 2026-10-13