可解释性研究者 maxsloef 离职 Goodfire,探讨 LLM 人格分层机制

可解释性研究者 maxsloef 宣布从模型可解释性初创公司 Goodfire 离职,未来将专注于研究模型人格(persona)如何在层间形成。在与 Ivan Vendrov、davidad 的讨论中,他支持一种 LLM 分层图景:早期层把 token 翻译成概念,中间层基于概念进行计算,后期层再把概念翻译回下一 token。不过 persona 究竟由哪些层决定,目前仍是待解问题。

2026-11-01 ~ 2026-11-01 · 2 条相关