颜文字情绪探针验证:与效价探针相关 0.68,训练后达 0.79
Sauers_ · x · 2026-11-21
同一 Qwen3-8B 颜文字实验的完整版,附三组验证数据:模型对自己会话的评分与下一个颜文字的秩相关为 0.52;直接读第 18 层激活沿效价方向的投影,相关升到 0.68;而用颜文字评分训练出的探针再预测,秩相关达 0.79。作者先在真实对话中诱导模型「心情」(先给好/坏消息再提问),再用预填「I'm feeling」+颜文字的方式读出。结论:模型自选的颜文字可靠反映其内部情绪状态,且这种状态可以从激活中线性读出——一个零成本、可复现的模型内省测量方法。
所属事件:研究者用颜文字量化 Qwen3-8B 情绪状态(3 条相关)→
「模型」频道最新
- 研究发现 Qwen 的颜文字情绪会跟着「挨骂」变低落 — Sauers_ · 2026-11-21
- 用颜文字当情绪探针:Qwen3-8B 的「快乐值」可被量化 — Sauers_ · 2026-11-21
- 2.7万思考token零回答:谷歌Vertex AI以HTTP 200自动扣费23次空崩溃 — Plenty-Jackfruit-218 · 2026-11-21
- Thinking Machines 新模型号称比 Qwen3.8 快 5 倍且更准,本地推理成真 — LiTianleli · 2026-11-21
- 用户发现 Gemini 会默默保存每一次有回答的 Google 搜索记录 — The-Neofighter · 2026-11-21
- Frontier 设计基准:Claude Fable 5.2 排名第一,距人类设计仅 26 Elo — yuwen_lu_ · 2026-11-21