NNsight 可解释性工具支持远程跑 70B 模型,NSF 免费算力

davidbau · x · 2026-11-19

David Bau 介绍 NNsight 与 NDIF 平台:随着 probing 等可解释性方法成为生产级 AI 的常规工具,研究者可直接使用。在模型追踪调用中加 remote = True 即可把模型加载到 NDIF 服务器远程执行,支持最大 70B 的模型热加载,后端由 NSF 提供的 GPU 免费托管,也可在本地 GPU 运行。

所属事件:NNterp 2.0 发布:统一可解释性实验 API 与配套工具生态(5 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →