NNsider Workbench:拖拽几下即可对任意 HuggingFace 模型做干预实验

davidbau · x · 2026-11-19

davidbau 介绍基于 NNterp 与 NDIF 的可视化模型内部探索工具 Workbench:无需写代码,通过几次点击和拖拽即可搭建复杂的干预(intervention)实验,底层由 NNterp 驱动,因而支持大量 HuggingFace 上的模型并在 NDIF 上运行。

配图展示 Patch Lens 功能:输入如 light:dark、bad:good 的源/目标 prompt,即可得到各层激活热图,并可将某层的激活从一处拖到另一处做 patch 干预,实时查看干预后的 token 概率与 top 输出(演示基于 Llama-3.1-8B)。

所属事件:NNterp 2.0 发布:统一可解释性实验 API 与配套工具生态(5 条相关)→

原文链接 →

「研究」频道最新

更多「研究」频道 AI 资讯 →