模型会在别的通道重现推理能力吗
LiorOnAI · x · 2026-07-13
这条回复在讨论一个模型机制问题：如果把某条路径堵住，优化压力是否会转而通过其他通信通道重新形成。
作者的判断是：如果一个共享工作区真的有助于多步推理，那么即使屏蔽了某个入口，相关能力也可能通过 residual streams 或其他电路重新出现。最后还顺手提出一个想法：可以把它写成论文。
所属事件:Anthropic揭示Claude内部J-space隐藏推理空间(16 条相关)→
「研究」频道最新
- 作者推测:真实训练中模型可能自发学会感知探针存在 — Sauers_ · 2026-10-18
- 训练策略复盘:只训最后几层避免移动目标,数据越多泛化越好 — Sauers_ · 2026-10-18
- 训练后模型能感知激活探针存在,并跨 GPU 零样本泛化 — Sauers_ · 2026-10-18
- 模型可学会分辨训练与部署状态,并泛化到没见过的运行时 — Sauers_ · 2026-10-18
- 模型从第 34 层激活差异学会识别训练环境,跨运行时泛化 90%+ — Sauers_ · 2026-10-18
- 单个注意力头像开关:靠抵消放大探针的微小激活差异 — Sauers_ · 2026-10-18