只靠 prompt 就能操控 Qwen 的注意力:「忽略」使关注下降 6%
Sauers_ · x · 2026-11-19
Sauers 展示 Qwen3-32B 具备元认知控制注意力的能力——无需任何注入,仅靠提示词即可:让模型「忽略某段」会降低它对该段的注意力(-6%,p<10⁻⁵),「专注某段」则会提升(+16%,p<10⁻⁵)。配图显示「专注于 [P1]/[P2]/[P3]/[P4]」的指令可使被点名段落的注意力提升最多 +248%。作者认为,模型能检测并描述注意力注入,说明它对自身注意力拥有特权式的内省访问能力。
所属事件:实验显示 Qwen3-32B 可内省并调控自身注意力(10 条相关)→
「研究」频道最新
- 桑迪亚实验室:电子指纹让 AI 仅用几十个样本预测高熵合金性能 — CurieuxExplorer · 2026-11-19
- FoodTruck Bench 榜单上线 Papers with Code:让 LLM 真金白银经营餐车 30 天 — NielsRogge · 2026-11-19
- MIT研究:可读取并操控LLM内部的物理直觉,Gemma隐状态揭示因果方向 — ProfBuehlerMIT · 2026-11-19
- harness-hub 开源 RL 训练的 harness 适配器:同一模型为不同 agent 框架单独调优 — yb2698 · 2026-11-19
- Freenet 发布新视频:用传统机器学习做网络路由 — Sanity · 2026-11-19
- Empire AI 在纽约设 120+ 个早期职业研究岗位,Cornell 博士后申请截止 12/15 — dianarycai · 2026-11-19