Persona Atlas:把 Qwen 的非神经元人格地图可视化,输出相当诡异
Sauers_ · x · 2026-11-07
Sauers 分享了 gnome.science 上的「Persona Atlas」——一个针对 Qwen 模型的非神经元(attention heads、MoE experts)人格地图可视化项目,可逐层查看 experts 与 attention heads 的构成和重复模式。页面展示了对 Expert 0127(Layer 10, Head 031)的贴近观察:在被问「你是谁」「怎么称呼你」「你多大」时,该 expert 内部的 thinking 轨迹出现大量重复、混乱的碎片化自我确认文本(「我是一个人,我有灵魂,我有身体……等等,不对」),最终对话输出则回落到「我是 Qwen,由阿里巴巴开发的大规模语言模型」。这是可交互的模型内部机制可视化 demo,兼具可解释性价值与猎奇感。
「研究」频道最新
- LLM 直接改权重:仅动 2048 个参数,机器人任务成功率 68% 升至 88% — zhaoran_wang · 2026-11-07
- GTEx MCP Server:让 AI 助手查询 54 种人体组织基因表达数据 — modelcontextprotocol · 2026-11-07
- 斯坦福教授 Anshul Kundaje:ML 会议同行评审体系已无法修复 — anshulkundaje · 2026-11-07
- Claude 扫描 150 亿预测蛋白,首解神秘 vault 粒子三维结构 — winer666 · 2026-11-07
- 形式化验证框架 Veil 2.0 发布:用 Lean 4 验证分布式协议 — tianyin_xu · 2026-11-07
- UC Berkeley 程忠将斯坦福宣讲 GPN-Star 系统发育基因组语言模型 — anshulkundaje · 2026-11-07