研究称人格向量在预训练 0.22% 进度即形成,论文入选 NeurIPS
burny_tech · x · 2026-09-27
研究者 @VityaVitalich 宣布其「persona vectors」论文被 NeurIPS 接收。
核心发现:
- 后训练并非「造出」助手人格,而只是放大了预训练阶段已经形成的人格向量
- 这些人格向量在预训练总 token 的约 0.22% 时就已涌现
- 研究在 OLMo-3 与 Apertus 上追踪了人格向量,发现它们可跨训练阶段迁移,甚至延续到后训练模型中
「模型」频道最新
- 腾讯 Hy4 flash 与 internlm Sage-S2.1-Flash 同日发布,实测征集 — MajesticPuzzler · 2026-11-16
- 网友晒 Qwen 4 Max 生成珊瑚礁作品,模型名尚未官方发布 — intellectronica · 2026-11-16
- Devin 中现 stealth 模型 silicon-2,疑似 Anthropic 新模型 — kimmonismus · 2026-11-16
- Google AI Mode隐藏所用Gemini型号,Gemini 4 Carbon下放Pro用户 — gaganghotra_ · 2026-11-16
- 开源 Karpo-Decision-31B 单次前向出概率,登顶 Decision Index 超越 Gemini — CodeByPoonam · 2026-11-16
- AI 日报:DeepSeek 限额、千问砍价惹店公告、豆包工作台上线 — 快鲤鱼 · 2026-11-16