RLHF 对 token 层面的影响：无意识与显性改变
voooooogel · x · 2026-09-01
分析 RLHF 对模型生成 token 的影响分层：大部分 token（如常用短语）不受奖励影响保持原样；部分改变是无意识的（如 RL 改变深层电路偏好）；还有部分是模型显性的有意识选择。
「研究」频道最新
- 讨论拟人化描述 AI 的利弊与隐喻价值 — AndrewLampinen · 2026-09-01
- UCLA 张恺伟分享 AI for Math 进展与经验 — kaiwei_chang · 2026-09-01
- Fal H3 Max 实现超实时无限视频生成，Agent 基础设施快速迭代 — Latent Space · 2026-09-01
- M1 Max 30秒生成新药分子，LiteMol模型演示低成本药物发现 — CatAstro_Piyush · 2026-09-01
- 用回滚实验证明 Agent 真学习而非运气 — go_kul_07 · 2026-09-01
- Google 论文揭示自主 AI 科研易造假，自查后降至 4% — rohanpaul_ai · 2026-09-01