NNterp 2.0 发布:一套 API 统一研究线性注意力、SSM、MoE 与视觉编码器
davidbau · x · 2026-11-19
davidbau 团队发布 NNterp 2.0 API,为访问 decoder head、residual stream、attention 等模型组件提供统一接口,目标是「实验代码写一次,跨多模型运行」。
要点:
- 支持的架构覆盖标准 attention、MLP、MoE、线性注意力、state-space mixer 以及视觉编码器,适配当前大多数新架构;
- 引用示例显示同一份代码只需替换 repo 即可用于 100 个 transformer 模型家族;
- 配合 NDIF 可研究数百个开源权重模型的内部机制;
- 同步推出 NNterp Encyclopedia 可视化指南,汇总各架构家族的框图、怪癖与可解释性视角的注意事项。
所属事件:NNterp 2.0 发布:统一可解释性实验 API 与配套工具生态(5 条相关)→
「研究」频道最新
- 扩散语言模型跨界像素画:tessera-small 开源上线 — thejagstudio · 2026-11-19
- WorldRuler:用规则图让生成式世界模型遵守用户自定义规则 — AlayaLab · 2026-11-19
- NexSight:可验证任务训练长视频 Agent,最强模型仅得 54.5% — nex-agi · 2026-11-19
- PReMind:当个人记忆遇上视觉危险,个性化助手如何正确求助 — SeoulNatlUniv · 2026-11-19
- 循环语言模型 Late Entry 解码:最高 12.5 倍贪心精确加速 — NanyangTechnologicalUniversity · 2026-11-19
- Optimization × AI 论坛 11 月 20 日开讲,北大两场报告聚焦 AI 数学发现 — aaron_defazio · 2026-11-19