研究者讨论:能否从 SFT 数据预测模型能力增量与对齐难度
tomekkorbak · x · 2026-09-26
tomekkorbak 与 herbiebradley 讨论一个研究思路:直接检验能否从 SFT 数据预测模型的能力增量(capabilities deltas)。herbiebradley 提出这可能也是判断对齐与能力哪个更难的切入点——如果可以预测不同数据集对能力提升的有效性,类似方法或可对比对齐与能力各自的数据效率,从而量化两者的相对难度。
所属事件:研究者提出用 AI 预读训练数据预判模型失对齐(3 条相关)→
「漫话AGI」频道最新
- AI 是「普通技术」吗?Reddit 热议技术与革命之争 — Yaoel · 2026-09-26
- 卡内基报告:中国 AI 顶尖人才占比 40.6% 超越美国 — yogthos · 2026-09-26
- AI 生成内容很吓人？我们早活在人类 slop 时代了 — enggirlfriend · 2026-09-26
- 评论：强制企业移除安全限制的 AI 政策，与「独裁 AI」威胁模型何异？ — menhguin · 2026-09-26
- Reddit 热议：前沿模型研发本质是「生成一晚再筛选」的 SD 流程 — wreck_of_u · 2026-09-26
- MIT 劳动经济学家 Stansbury 用 Messy Jobs 框架教未来职场 — soumitrashukla9 · 2026-09-26