开发者在 DGX Spark 上跑出 SAE 特征实时 3D 可视化查看器
leland_mcinnes · x · 2026-09-20
受果蝇大脑模拟与 AI 可解释性研究启发，开发者 blakefullerton 构建了一个 3D 查看器，可以在语言模型生成文本时实时观察其内部 SAE 特征的激活情况。
演示中让 Gemma 补全「金门大桥位于……」，停在「Francisco」时可以查看被标注为「San Francisco, Oakland, Bay Area」和「城市名」等特征的激活状态。整套系统在 DGX Spark 上本地运行（做了 2 倍速度优化），作者以推文串形式讲解了实现方法。这为「在系统运行时观察内部机制」提供了可复制的实践路径。
「研究」频道最新
- Metropolis–Hastings 算法科普：贝叶斯推断背后的采样引擎如何工作 — burny_tech · 2026-09-20
- 学界论文提交量失控,研究者呼吁设硬性上限 — RexDouglass · 2026-09-20
- 第三方榜单 JevBench v1.2 上线,聚焦性价比导向的决策模型排名 — airesearch12 · 2026-09-20
- 训练你自己的 JEV:五步配方配一千张 GPU 就差两年 — andrew_n_carr · 2026-09-20
- Agent 评测退化解难题:直接写出端到端策略算赢吗 — JoshPurtell · 2026-09-20
- 评测者称纯代码启发式策略可在 Craftax 上胜过大模型 — JoshPurtell · 2026-09-20