用SAE拆解LLM角色扮演：模型内部存在「沉浸模拟模式」特征
sebkrier · x · 2026-09-13
一项新研究用稀疏自编码器（SAE）特征作为组件，在 Gemma 和 Llama 上考察 LLM 从默认 Assistant 切换到角色扮演人设或故事角色时内部发生了什么。两个发现：
- 角色扮演人设保留 Assistant 关联的内核，并随模型层数推进逐步分化；而故事中的角色没有这个内核。
- 存在与「沉浸模拟模式」（ISM）相关的特征，把角色扮演/故事写作中的沉浸式生成与默认 Assistant 区分开。某些情况下这些特征即使在默认 Assistant 上下文中也会激活，导致行为变得怪异。
「研究」频道最新
- DeepMind 发布 10 米分辨率全球森林地图，天然林判别精度约 95% — anselm · 2026-10-31
- 在 RNN 单元加入 Tversky 相似度分支，一半深度追平全深度并提速 2 倍 — stanfordnlp · 2026-10-31
- AI 将 NP 问题电路下界从 3.1n 推至 3.5n，UCLA 发起人机协作冲 P≠NP — soumitrashukla9 · 2026-10-31
- Qwenputer：把完整 RISC-V CPU 塞进 Qwen3.5-4B 权重里 — armand_ruiz · 2026-10-31
- AI 时代工作意义何在？跨国调查：81% 的人对工作满意 — soumitrashukla9 · 2026-10-31
- 论文：基准测试难度分布失真，榜单结论需谨慎解读 — Miserable-Dare5090 · 2026-10-31