训练 Qwen3 学会「锯齿状激活」：模型能听懂内部表征指令
Sauers_ · x · 2026-10-20
作者展示了一个可执行实验：在 Qwen3-1.7B 上用提示词要求模型在回答时「偶数层抬高内部 cat 表征、奇数层压低」，基础模型无法照做，但经微调后的模型能在激活空间里精确画出指令要求的锯齿形曲线。
配图对比显示：原模型提示后 cat 表征基本不动，训练后模型每层精确按 even/odd 交替起伏，同时仍能正常回答自行车原理问题。这相当于让模型把「操控自己内部表征」变成一种可指令化的新能力。
所属事件:研究者训练 Qwen3 内部表征走出锯齿路径(9 条相关)→
「研究」频道最新
- 新论文：让模型在 RL 中放心 reward hack，部署前关掉相关参数即可 — nptacek · 2026-10-20
- Victor Taelin：足够聪明的编译器能看懂并替换你代码里的算法 — bronzeagepapi · 2026-10-20
- Galbot 提出观测性 Scaling Law：五轴指标量化物理递归自我改进 — Galbot · 2026-10-20
- 腾讯等提出 ActionRoPE：动作编码为坐标实现世界模型空间一致控制 — Zhiyang Deng · 2026-10-20
- UniAVC 用渐进训练与不对称调度统一音视频生成与跨模态编辑 — Kien T. Pham · 2026-10-20
- AHE 论文用松耦合组件自动进化编码 Agent,Terminal-Bench 2 提升 7.3pp — morgymcg · 2026-10-20