注入时机决定成败:阅读时注入使 Qwen 报告提升最多 +580%
Sauers_ · x · 2026-11-19
Sauers 实验的关键变量发现:把注意力注入放在 Qwen 3 32B 阅读并回答"注意力在哪"的问题时,模型说出被增强段落/词的概率相对其他选项提升 +97%(段落)到 +580%(单词);而注入发生在回答生成时,段落反而 -18%、单词仅 +3%——时机强烈影响内省效果,但回答时注入并非必需。
所属事件:实验显示 Qwen3-32B 可内省并调控自身注意力(10 条相关)→
「研究」频道最新
- 桑迪亚实验室:电子指纹让 AI 仅用几十个样本预测高熵合金性能 — CurieuxExplorer · 2026-11-19
- FoodTruck Bench 榜单上线 Papers with Code:让 LLM 真金白银经营餐车 30 天 — NielsRogge · 2026-11-19
- MIT研究:可读取并操控LLM内部的物理直觉,Gemma隐状态揭示因果方向 — ProfBuehlerMIT · 2026-11-19
- harness-hub 开源 RL 训练的 harness 适配器:同一模型为不同 agent 框架单独调优 — yb2698 · 2026-11-19
- Freenet 发布新视频:用传统机器学习做网络路由 — Sanity · 2026-11-19
- Empire AI 在纽约设 120+ 个早期职业研究岗位,Cornell 博士后申请截止 12/15 — dianarycai · 2026-11-19