NNsight 0.8 预发布:vLLM 近原生吞吐白盒推断引擎亮相
gsarti_ · x · 2026-09-10
NNsight 0.8 预发布版推出,API 保持不变但更换了全新执行引擎。
- 支持 HF Transformers 全部任务,vLLM 上的可解释性分析达到近原生吞吐
- 新引擎专为干预(intervention)性能与灵活性打造,作者称其让白盒推断更接近 SOTA 推理引擎
- 该升级此前已支撑 Aletheia 谎言检测挑战赛,官方正式版将发布于 NDIF
所属事件:NNsight 0.8 预发布：全新执行引擎实现近原生吞吐(2 条相关)→
「研究」频道最新
- 加磁性杂质扰动物理系统，简单 ML 即可推断量子磁体哈密顿量 — bravo_abad · 2026-09-10
- 视觉+力觉融合机器人穿衣：12 人 264 次实测，手臂套入率达 85% — stepjamUK · 2026-09-10
- J-lens 解读：窥见并改写 LLM 未说出口的中间概念 — CatAstro_Piyush · 2026-09-10
- Group Bench:约 100 道群论题测你的 AI agent — Sauers_ · 2026-09-10
- Group Bench 发布:约 100 道群论题考验 AI 智能体 — Sauers_ · 2026-09-10
- ELLIS 博士项目开放 2026 申请，10 月底截止 — ArthurGretton · 2026-09-10