MAttr 开源:一次训练得到全稀疏度归因曲线,权重掩码也支持
nateliason · x · 2026-09-24
MAttr 论文的团队与代码信息帖:与 Noah Goodman、Christopher Potts、Dan Jurafsky 等合作完成,代码开源于 GitHub。
- 一次训练即得整条 CPR-vs-稀疏度曲线(学到的分数是排序而非固定预算下的电路),区别于其他掩码学习方法
- 提供通用 API:learnscores 接受任意 lossfn(mask) 与节点数,模型适配层支持节点、边、神经元、SAE latent 与 ViT patch 等表示
- 参数归因版作为姊妹仓库发布,含 RL/SFT 训练代码与配置,以及 HuggingFace 上的 MIB circuit-track 提交
「研究」频道最新
- World Labs 发布全模态世界模型 Atlas:原生支持文本图像视频3D — theworldlabs · 2026-09-24
- zeta(5) 或已被证明无理数,作者用 Astra 验证论证正确性 — aran_nayebi · 2026-09-24
- 新论文用多尺度 NeuroAI 模型解开安眠药唤醒意识障碍患者的悖论 — introspection · 2026-09-24
- 新理论:意识为解决纯智能搞不定的生存权衡而演化 — rjhaier · 2026-09-24
- ICLR 投稿观察:RNA 结构协同设计论文扎堆 — rishabh16_ · 2026-09-24
- SFT 只遮响应是元凶:全序列掩码解锁扩散模型 prompt infilling — kastnerkyle · 2026-09-24