斯坦福新法 Witnesses:让训练者自证训练真实性,验证成本大降
pratyusha_PS · x · 2026-10-02
斯坦福大学与纽约大学研究者(Houjun Liu、Pratyusha Sharma)发布论文《Training Witnesses: Trusting the Training without Trusting the Trainer》(arXiv:2609.33915)。
核心问题:当前论文爆炸导致每个科学声明最初只能信任训练者本人,验证负担全在读者身上,而复现昂贵训练并不现实。作者提出把举证责任放回训练者:
- 提出 Witnesses 方法,对训练过程、数据使用与评测进行认证;关键洞察是「快速行为指纹 + 偶发的 replay 挑战」即可审计神经网络训练
- 对训练者开销极小、验证者成本低、能以可放大的概率拒绝劣质训练,并支持数据包含/排除的精确查询
- 在 100M 到 2B 规模的语言模型训练上测试,覆盖 DDP 与 FSDP,验证开销确实很小
- 同时推出「自动认证」训练运行的自调节排行榜,促进共享基线与可复现性,邀请社区参与
所属事件:斯坦福等推出 Witnesses 可验证 AI 训练新方法(3 条相关)→
「研究」频道最新
- 医学 AI 访谈:模型满分诊断仍受限于人类共识标签 — CurieuxExplorer · 2026-11-22
- Science 封面:Google Willow 芯片上实现 105 量子比特语境性实验 — dhruv2038 · 2026-11-22
- P=NP 若被证明将如何击穿现代密码学体系 — doctorBobG · 2026-11-22
- 十个月前还有人问 AI 能否先解出千禧年大奖难题 — haider1 · 2026-11-22
- Fable 5.2 直接改写权重,让只会右侧行驶的模型学会左行 — 4310sy · 2026-11-22
- IceCube 中微子众包挑战落幕,65 名志愿者助 AI 分类信号 — CatAstro_Piyush · 2026-11-22