训练 54 个模型有机体发现:可解释性审计分数竟是抽彩票
gsarti_ · x · 2026-10-14
论文《How to train your model organism》（与 David Bau、Byron C. Wallace 合作）指出，机械可解释性研究常用的 model organism 测试台存在可靠性隐患：团队训练了 54 个模型有机体，发现它们的可解释性得分因训练方式不同而差异巨大——如果压力测试设置不当，可解释性基准结果可能像抽奖一样不可靠。作者呼吁使用更贴近真实的模型有机体来做可解释性审计。
「研究」频道最新
- 港科大 VisInteract 登 NeurIPS Spotlight:让文生图表先追问再画图 — jiqizhixin · 2026-10-14
- 浙大 WorldRecon:无位姿多视角生成式重建大场景,Chamfer 距离降 43% — ZhejiangUniversity · 2026-10-14
- OpenGVLab 推出 RSI-Nav:导航智能体数据递归自我改进,R2R-CE 达 68.6% — OpenGVLab · 2026-10-14
- 新加坡国立大学提出 Jeva:决策原生架构,支持万级候选与近完美空值检测 — NationalUniversityofSingapore · 2026-10-14
- 人大 Agent-Reflex:三阶段训练让 Agent 学会主动反思,五项基准 58.6 分 — RUC-NLPIR · 2026-10-14
- 阳交大 Cepheid:学无量纲先验,稀疏运动补全跨几何族零样本泛化 — NYCU · 2026-10-14