NNterp 2.0 发布:统一可解释性实验 API 与配套工具生态
davidbau 团队于 11 月 19 日集中发布 NNterp 2.0 及配套工具生态,目标是为机制可解释性研究提供「实验代码写一次,跨多模型运行」的统一基础设施。核心是 NNterp 2.0 API:为访问 decoder head、residual stream、attention 等模型组件提供统一语法,把各家 transformer 架构的怪癖抽象掉,使同一段 NNsight 实验代码几乎能在所有 LLM 上运行。
已确认
- NNterp 2.0 支持的架构覆盖线性注意力、SSM、MoE 与视觉编码器等现代变体(m1、m4)。
- NNterp Encyclopedia 上线,作为现代 transformer 架构变体的可视化速查手册;配合 NDIF 可研究数百个开源权重模型,解决各架构差异难以记忆的问题(m2)。
- NNsider Workbench 发布:基于 NNterp 与 NDIF 的可视化工具,无需写代码,通过点击和拖拽即可对任意 HuggingFace 模型搭建复杂的干预(intervention)实验(m3)。
- NNsight 支持远程执行:在模型追踪调用中设置 remote = True 即可把模型加载到 NDIF 服务器运行,可跑 70B 模型,NDIF 提供 NSF 免费算力(m5)。
为什么重要
- 对机制可解释性研究者而言,NNterp 2.0 显著降低了跨模型做实验的工程成本(m4 作者 gsarti 的评价)。
- Bau 指出,随着 probing 等可解释性方法逐渐成为生产级 AI 的常规工具,研究者可以直接在 NNsight/NDIF 上开展此类工作,且免费算力降低了大规模模型研究的门槛(m5)。
- Encyclopedia 与 Workbench 分别降低「了解架构差异」和「上手做干预实验」两道门槛,与 API 形成完整的工具生态。
2026-11-19 ~ 2026-11-19 · 5 条相关
一手来源
- NNterp 2.0 发布:一套 API 统一研究线性注意力、SSM、MoE 与视觉编码器 — davidbau ·
- NNsider Workbench:拖拽几下即可对任意 HuggingFace 模型做干预实验 — davidbau ·
- NNsight 可解释性工具支持远程跑 70B 模型,NSF 免费算力 — davidbau ·
- NNterp 2.0 发布:统一语法在 NNsight 上跑几乎所有 LLM 的可解释性实验 — gsarti_ · 2026-11-19
- NNterp Encyclopedia 上线:现代 Transformer 架构变体的可视化速查手册 — davidbau · 2026-11-19
- 【源头】NNterp 2.0 发布:一套 API 统一研究线性注意力、SSM、MoE 与视觉编码器 — davidbau · 2026-11-19
- 【源头】NNsider Workbench:拖拽几下即可对任意 HuggingFace 模型做干预实验 — davidbau · 2026-11-19
- 【源头】NNsight 可解释性工具支持远程跑 70B 模型,NSF 免费算力 — davidbau · 2026-11-19