ICA Lens 上线 Neuronpedia，人人可分解自己 prompt 的 token 特征
CatAstro_Piyush · x · 2026-11-11
liusida2007 宣布 ICA Lens 已接入 Neuronpedia 平台，任何人都可在其页面上对自己 prompt 中的 token 做特征分解，观察激活的特征及其对后续 logits 的正负影响。
以 Qwen3.6-27B 的 24-ICALENS-RES 层为例，「感谢」类 token 激活了与致谢相关的特征（正向 logits 包括 Thank、致谢等）。Neuronpedia 目前覆盖 9 个模型共 860 万个神经元和 130 万条社区解释，还提供 persona-neurons、ModelMapper、Neuron Lens 等工具，是可解释性研究的重要公开资源。
「研究」频道最新
- Prism 能力提取新进展：从 Qwen 27B 抽出专家模型，内存不到 20%、性能持平 — tokenbender · 2026-11-11
- Data Colada 再揭 Francesca Gino 合著论文数据造假证据 — danielrock · 2026-11-11
- Fable 5.2 登顶 GDPx 芯片设计榜，出题方自曝其任务零提升 — ycombinator · 2026-11-11
- 理论计算机科学家问 Claude：新证明中关键变量的复杂度是 Promise-BQP 完全 — fortnow · 2026-11-11
- 改写不到 10 个休眠神经元即可给 LLM Agent 植入后门 — DimitrisPapail · 2026-11-11
- 杜克普林斯顿论文:100 个 agent 拆成 10 支小队并行,胜过单队和单 agent — rohanpaul_ai · 2026-11-11