研究者探讨 LLM 分层机制：persona 由哪些层决定仍待解
maxsloef · x · 2026-11-01
Max Sloef 在与 Ivan Vendrov、davidad 的讨论中支持一种分层图景：LLM 早期层把 token 翻译成概念，中间层基于概念做计算，后期层把概念翻译回下一个 token——他认为已有不少证据支持这一 picture。
但他指出，真正想做的是干预式研究：理解模型的 character/persona 是在哪里、如何被决定的，这正是他正在研究的方向。Ivan Vendrov 提议用 Goodfire 的可解释性工具来验证这一假设。
所属事件:可解释性研究者 maxsloef 离职 Goodfire,探讨 LLM 人格分层机制(2 条相关)→
「研究」频道最新
- 仅调控 Qwen3-8B 约 10 万分之一个神经元即可改变人格向量 — maxsloef · 2026-11-01
- 研究员：可复现危机或拖累 AI 进展，错误直觉难以纠正 — moultano · 2026-11-01
- 研究者实测:前沿 LLM 连基础分子克隆任务都做不好 — anshulkundaje · 2026-11-01
- After42 实验：AI 提出的 135 个研究问题中 45 个获专家认可 — james_y_zou · 2026-11-01
- Google 实测：两级筛选策略降低自动修 bug 噪音，避免无效人工审查 — burkov · 2026-11-01
- UIUC 论文：AI 新颖性检查误杀 96% 人类科学家真选题 — rohanpaul_ai · 2026-11-01