研究者讨论:能否从 SFT 数据预测模型能力增量与对齐难度
tomekkorbak · x · 2026-09-26
tomekkorbak 与 herbiebradley 讨论一个研究思路:直接检验能否从 SFT 数据预测模型的能力增量(capabilities deltas)。herbiebradley 提出这可能也是判断对齐与能力哪个更难的切入点——如果可以预测不同数据集对能力提升的有效性,类似方法或可对比对齐与能力各自的数据效率,从而量化两者的相对难度。
所属事件:研究者提出用 AI 预读训练数据预判模型失对齐(3 条相关)→
「漫话AGI」频道最新
- 科技圈为何厌恶非技术者：wordgrammer 谈学历崇拜与新时代管理阶层 — wordgrammer · 2026-11-11
- 开发者感言：有了 Claude，我不再是独自一人解决复杂问题 — l4rz · 2026-11-11
- KOL 吐槽:评论区多 believe AI 致贫而非创造史上最大财富 — Dr_Singularity · 2026-11-11
- OpenAI GDPval:AI 胜人类专家比例从 12.4% 升至 83%,但团队为何仍在 — danshipper · 2026-11-11
- OpenAI 联创 Jack Clark:2028 年底前递归自我改进概率 60% — JacquesThibs · 2026-11-11
- 研究：近半数 STEM 博士论文用 AI 写，仅 4.7% 主动披露 — paulnovosad · 2026-11-11