新方法突破以往自解释训练的窄泛化:未定向训练也提升 hint 评测
a_karvonen · x · 2026-09-05
作者指出,以往的自我解释训练泛化范围很窄(如只从一种 hint 格式泛化到另一种),因为数据集太窄。他们的训练从未针对 hint,但两个模型在 held-out 的 hint 评测(「移除 hint 会不会改变你的回答?」)以及其他评测上都有提升。
所属事件:Anthropic 团队发布 CHIVE:训练模型解释自身行为并泛化(6 条相关)→
「研究」频道最新
- CMU 与 Meta 开源 TrackEverything：追踪长视频全部 3D 点 — AdamWHarley · 2026-10-21
- OpenAI 收购 Orchestra Bio，把研究 AI 接入药物研发运营 — ryanmerket · 2026-10-21
- 开源婴儿脑连接工具包:vibe coding 串起皮层-电极-纤维追踪分析 — Dr_Alex_Crimi · 2026-10-21
- 伯克利获 Schmidt Sciences 资助：用 AI 破解抹香鲸与虎鲸语言 — begusgasper · 2026-10-21
- 斯坦福 CS336 第 6 讲:kernel 提速先少跑几趟显存 — stanfordnlp · 2026-10-21
- UIUC 论文：高分不等于会推理，LLM 换个表述就丢失推理规则 — UIUC-CS · 2026-10-21