Vela:10 万用户真实行为数据当监督信号,用户任务最高涨 11.5 分
AllSpark-Research · hf · 2026-10-14
AllSpark Research 发布 Vela 框架,提出「以用户行为为监督」(user behavior as supervision):用真实用户行为数据训练 LLM 的用户维度智能——从数周到数年的行为记录中推断偏好、意图与未来行动:
- 数据管线:从 10 万匿名用户的行为记录生成 91 类真实任务模板下的 10 万个任务;经难度过滤与轨迹接受标准保留约 7.5 万条带训练轨迹的任务
- 效果:微调 Qwen3.6-35B-A3B 后,用户相关任务最高 +11.5 分(VelaBench 63.0,超 DeepSeek-V4-Flash 等),5 个通用 benchmark 平均 +4.0 分;更多行为数据持续带来增益
- RL 发现:先 SFT 再做强化学习,比从基座模型直接 RL 最高高出 7.7 个百分点
结论:真实世界用户行为是可扩展的监督来源,同时提升用户中心能力与更广泛的 LLM 智能。
「研究」频道最新
- Chollet:科学的理想未来是百万 AI 辅助科学家,而非少数实验室砸钱解题 — fchollet · 2026-10-14
- 椭圆路径上感受偶极子电场:两端 2.08kq,顶端仅 0.13kq — TinfoilTricorn · 2026-10-14
- 阿里提出 Representation Guidance:纯 Transformer 像素扩散架构,459M 参数超越 FLUX — bdsqlsz · 2026-10-14
- 锯齿波的正弦叠加可视化:50 项谐波过冲达 9% — TinfoilTricorn · 2026-10-14
- Gemma Embedding 2 训 3000 小时越南语音频达 SOTA,仅花 8 卡 H100 两小时 — stablequan · 2026-10-14
- KILVO:融合编码器/IMU/LiDAR/视觉的人形机器人里程计框架 — rsasaki0109 · 2026-10-14