NNsight 0.8 预发布:vLLM 近原生速度与 MoE 支持

davidbau · x · 2026-09-10

David Bau 宣布可解释性研究平台 NDIF 的 NNsight 0.8 预发布版上线。新版重写了执行引擎但保持 API 不变，重点改进：

• 支持更多模型，包括 MoE Transformer
• vLLM 可解释性支持达到近原生吞吐速度
• 新引擎专为干预操作的性能与灵活性设计

目前处于 pre-release 阶段，作者欢迎研究者试用并向 jadenfk23 提需求。

原文链接 →

「研究」频道最新

• 幻觉率成淘汰门槛:8 款模型实测揭示 LLM 换型评测的统计陷阱 — dl_weekly · 2026-09-10
• Joseph Suarez 推出强化学习系列节目 — jsuarez · 2026-09-10
• SimWorld 将推 Code4Scene 基准：一句提示生成可探索集装箱港口 — Lianhuiq · 2026-09-10
• Salesforce 发布 EvoHarnessBench：考验 Agent 应对工具与环境持续演进 — Salesforce · 2026-09-10
• 40 分钟用 AI 搭出 Rentosetib 机制演示,抗衰老药临床见成效 — DeryaTR_ · 2026-09-10
• AlphaFold 帮 Cornell 团队发现可关闭癌细胞运动的隐藏「开关」 — Dr_Singularity · 2026-09-10

更多「研究」频道 AI 资讯 →