加 <|im_end|> 向量做 steering,让 Qwen3-8B 不再废话

Sauers_ · x · 2026-11-19

作者展示了一个简洁的激活 steering 实验:向 Qwen3-8B 的第 18 层残差流注入结束符 <|imend|> 的 unembedding 向量,可以显著抑制模型的冗长客套输出。

配图实验数据显示:

这是一个可以直接照做的控制模型输出长度的轻量技巧,无需微调。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →