NNsider Workbench:拖拽几下即可对任意 HuggingFace 模型做干预实验
davidbau · x · 2026-11-19
davidbau 介绍基于 NNterp 与 NDIF 的可视化模型内部探索工具 Workbench:无需写代码,通过几次点击和拖拽即可搭建复杂的干预(intervention)实验,底层由 NNterp 驱动,因而支持大量 HuggingFace 上的模型并在 NDIF 上运行。
配图展示 Patch Lens 功能:输入如 light:dark、bad:good 的源/目标 prompt,即可得到各层激活热图,并可将某层的激活从一处拖到另一处做 patch 干预,实时查看干预后的 token 概率与 top 输出(演示基于 Llama-3.1-8B)。
所属事件:NNterp 2.0 发布:统一可解释性实验 API 与配套工具生态(5 条相关)→
「研究」频道最新
- 扩散语言模型跨界像素画:tessera-small 开源上线 — thejagstudio · 2026-11-19
- WorldRuler:用规则图让生成式世界模型遵守用户自定义规则 — AlayaLab · 2026-11-19
- NexSight:可验证任务训练长视频 Agent,最强模型仅得 54.5% — nex-agi · 2026-11-19
- PReMind:当个人记忆遇上视觉危险,个性化助手如何正确求助 — SeoulNatlUniv · 2026-11-19
- 循环语言模型 Late Entry 解码:最高 12.5 倍贪心精确加速 — NanyangTechnologicalUniversity · 2026-11-19
- Optimization × AI 论坛 11 月 20 日开讲,北大两场报告聚焦 AI 数学发现 — aaron_defazio · 2026-11-19