Neuronpedia:开源可解释性平台,可探索真实模型内部特征与 SAE 隐变量
techNmak · x · 2026-09-04
@techNmak 资源系列第 13、14 条:
- Diffusion Explainer:交互式讲解 Stable Diffusion 背后的主要组件,让「从噪声去噪」不再黑盒。
- Neuronpedia:从模型架构学习转向实际检查模型内部的开源可解释性平台,可探索特征、稀疏自编码器(SAE)隐变量、激活值和归因式图谱,含 5TB+ 激活与解释数据。近期亮点项目包括 Anthropic 的 Jacobian Lens(揭示语言模型中的全局工作空间)、Natural Language Autoencoders(把模型内部思想翻译成文本)、Assistant Axis、Circuit Tracer,以及 Google DeepMind 的 Gemma Scope 2(Gemma 3 的 SAE 与转码器套件),还发布了新的 interp-engine 快速标准化可解释性引擎。
所属事件:可解释性工具推荐：Neuronpedia与Diffusion Explainer(2 条相关)→
「应用」频道最新
- Luke Wroblewski 做折叠屏智能体管理 App：协调 agent 已成全天候工作 — LukeW · 2026-10-21
- 用 OpenAI 新语音模式演练陌生电销，用户称效果出色 — curious_vii · 2026-10-21
- Finichat 推出 Scout：给客服团队的 AI 同事登陆 Slack — ycombinator · 2026-10-21
- 苹果前员工创办 UniqueHuman，推出偏头痛预测护理 agent Niq — Scobleizer · 2026-10-21
- AI 伴侣应用 Tolan 谈变现：用量自带边际成本时代重构定价玩法 — ajaymehta · 2026-10-21
- 开发者给 Grok Bot 做 LinkedIn Desk 技能，自动清理通知与人脉请求 — SEO · 2026-10-21