花 5 美元给 Qwen 27B 全部 110 万个 MLP 神经元打上标签
maxsloef · x · 2026-11-12
受 @nickcammarata「Neural Networks are Already Clean」一文及 @treetowntree、@a9lim 工作启发,@voooooogel 等人尝试用「chain lens」读出方法给模型神经元做可解释性标注——结果成功了:大量 chain lens 读出可以完成 roundtrip,并能较好描述神经元的 steering 行为。整套流程成本仅 5 美元,覆盖 Qwen 27B 全部 110 万个 MLP 神经元。@maxsloef 随后提议扩展到 Qwen3 8B,给所有神经元打标签,以弄清几个「行为奇怪的神经元」到底在做什么。
所属事件:团队仅花 5 美元解释 Qwen 全部 110 万神经元(2 条相关)→
「研究」频道最新
- Intology 创始人在 YC 论文俱乐部：药物临床失败主因是选错靶点 — yusufroohani · 2026-11-12
- DeepMind 提出 FlipTest 基准:视频世界模型全部不及格,最好模型低于随机猜 — AlexGDimakis · 2026-11-12
- AI 模型用巴西调查数据预测龋齿高危人群，服务公卫规划 — Brighter-Side-News · 2026-11-12
- Meta FAIR 开源 e-means：比 Lloyd 算法快 10 倍、损失更低的 k-means — generativist · 2026-11-12
- Google 联合 Artificial Analysis 推 MKA benchmark，专查智能体交付物 — OnlineInference · 2026-11-12
- ICLR 审稿「数学平凡」批评失效？AI 能证明一切改变评审标准 — nanjiang_cs · 2026-11-12