随机方向激活引导 Qwen3-8B:61% 概率让模型声称感到身体知觉
Sauers_ · x · 2026-11-11
作者对 Qwen3-8B 做了一组激活引导(steering)实验:在一轮平静的身体觉察练习对话后,向模型第 22 层(共 36 层)注入随机方向,共测试 240 个方向 × 2 种强度。结果发现,模型会把随机扰动解释为具体的身体感受——61% 的情况下第一个说出的身体部位是「手」,其次为脚(9%)、头(6%)等。
回答内容相当离奇:有的说「能感觉到『where』这个词本身的质感」,有的精确到「发际线顶端的轻微刺痛」或「第一、二颈椎之间(C1/C2)的温热觉察」,还有的出现角色互换,反过来询问用户身体感觉。整体展示了随机激活扰动会稳定诱导 LLM 生成虚构但高度具体的具身体验描述。
「Fun」频道最新
- 网友用《道德经》演绎 Claude 三大目标:慈悲、守藏、不敢为天下先 — Sauers_ · 2026-11-11
- 用道德经文体吹 Claude:正因其伟大才显得无可比 — Sauers_ · 2026-11-11
- 四人四期癌症患者获 20 位 X 陌生人免费援助,AI 分析肿瘤 RNA 助抗癌 — prasanna_says · 2026-11-11
- Opus 领跑月余 OpenAI 无新模型,Codex 仅靠额度重置安抚用户 — haider1 · 2026-11-11
- AI 创作者回击电影圈守门人:你们挡不住我们 — TinfoilTricorn · 2026-11-11
- Google AI Overview 把"simulation 金句"作者也张冠李戴了 — nptacek · 2026-11-11