研究称人格向量在预训练 0.22% 进度即形成,论文入选 NeurIPS
burny_tech · x · 2026-09-27
研究者 @VityaVitalich 宣布其「persona vectors」论文被 NeurIPS 接收。
核心发现:
- 后训练并非「造出」助手人格,而只是放大了预训练阶段已经形成的人格向量
- 这些人格向量在预训练总 token 的约 0.22% 时就已涌现
- 研究在 OLMo-3 与 Apertus 上追踪了人格向量,发现它们可跨训练阶段迁移,甚至延续到后训练模型中
「模型」频道最新
- 推算称 AI 加速点距我们一年：有效算力年增 35 倍、平方即千倍 — ChrisGPT · 2026-09-27
- LeCun：LLM 本质是信息检索系统，多数时候在复述人类已有知识 — ylecun · 2026-09-27
- 观点交锋：Opus 5.5 获赞如潮，学者坚称编码能力已见顶 — Yuchenj_UW · 2026-09-27
- Claude 3 Opus 可自主发现 APT 级 0day,自动化漏洞研究引安全担忧 — JasonDClinton · 2026-09-27
- 同等有用性下 token 越来越便宜，别用旧世界观判断 AI 能做什么 — avt_im · 2026-09-27
- Jev 占 OpenRouter 分类请求 27%,份额近 DeepSeek V4 Flash 两倍 — gaganghotra_ · 2026-09-27