读激活会改变编译后 Qwen3 的 logits,作者称这是编译器正常行为
Sauers_ · x · 2026-10-19
- 针对「可解释性探针在编译后会改变模型数值输出」的争议，作者 Sauers 认为这不是 bug:大多数库在编译模型时插入探针都会引入数值差异，编译器 DAG 的这一行为有文档支持，且很难设计出不产生差异的实现。
- 配图实验显示：eager 模式下读取激活对 Qwen3-0.6B logits 无影响(0%),但编译后 NNsight 场景 93% 的 next-token logits 发生变化，PyTorch hook 与 HuggingFace hidden states 也在 86%–90%。
- 另一实验中，Qwen3-8B 训练用于检测探针工具：按训练配置(第 34–35 层不编译)时 PyTorch hook 准确率 78%、HF hidden states 88%,全程编译 zero-shot 时分别降至 52%/80%,说明模型本身也在利用数值差异来感知探针。
所属事件:编译后 Qwen3 插入探针改变 logits 引发讨论(3 条相关)→
「模型」频道最新
- Bindu Reddy:DeepSeek Flash 真正短板是速度,仍比 Luna 慢 2 倍 — bindureddy · 2026-10-19
- Design Arena 用 6.4 万生成网站算出各家模型「风格向量」 — ycombinator · 2026-10-19
- 开发者吐槽 AI 实验室高级价格歧视:额度一周就过期还得用慢模型 — NYCounihan · 2026-10-19
- 连续扩散语言模型新突破:DoubleCat/SemiCat 摆脱 self-conditioning — tarantulae · 2026-10-19
- Claude 半小时破解 NSA 密码学 25 年悬案：疑非后门 — luisdans · 2026-10-19
- 开发者称 Opus 5.5 发布后，其 Codex 账户用量直接归零 — rudrank · 2026-10-19