Transluce 训练 oversight 模型，可在烧卡前预测微调后的模型行为
menhguin · x · 2026-11-12
AI 研究机构 Transluce 发布线程称：微调 LLM 常带来意想不到的副作用，他们训练了 oversight 模型，可在实际微调（花费 GPU 时间）之前，仅根据微调数据集预测微调后模型对 prompt 的响应。研究发现这种预测性能随模型规模和数据量呈幂律（power law）提升，意味着未来可以低成本预判微调效果、避免浪费算力。
「研究」频道最新
- Embodied First Exam:47 台机器人 1156 项任务首考编码智能体，最强仅 34% — MLL-Lab · 2026-11-12
- 频率感知 Remasking 提升扩散语言模型：MATH-500 最高涨 7.33 个百分点 — ucriverside · 2026-11-12
- Continual-ARC 基准:主流 agent 均无法从经验中学习,9B 小模型微调反而做到 — alifcoder · 2026-11-12
- Remote Labor Index 论文警示:电脑办公人群该'系好安全带'了 — FlorianGallwitz · 2026-11-12
- LMSYS megakernel 把解码推到 1,109 tokens/s,启动数从 1450 降到 97 — ying11231 · 2026-11-12
- MPEG Diffusion:主体高清背景低清，视频生成提速 4.8 倍 — xxunhuang · 2026-11-12