Yandex Music 用一个 transformer 替换 15+ 候选生成器，收听时长 +6.3%
SettingAccording8986 · reddit · 2026-10-05
Yandex Music 分享论文 Sona：用单个端到端 transformer 在 A/B 测试中替换了生产推荐系统里的 15+ 个候选生成器、预排序与排序模型（数百特征）。
技术要点
- 模型读取最多 8,192 个行为事件；为降低全量注意力的推理成本，提出 History Compression：将历史拆为较早的 6,144 条与最近的 2,048 条，两块通过交叉注意力和一层全历史自注意力交换信息，之后 7 层堆栈只跑最近 2,048 条，推理成本约减半且保留大部分质量。
- 解码器与排序模块共享同一 encoder 输出，encoder 每次请求只跑一次；候选通过 beam search 以 Semantic ID 形式产出并即时打分。
A/B 结果（智能音箱端，7 天，每臂 15% 用户）：活跃用户 +4.53%、总收听时长 +6.30%，均 p<0.01 显著；目录覆盖率低于现有生产系统，原因待查。长期 A/B 测试正在进行，尚未全量上线。论文：arxiv.org/abs/2608.11015。
「模型」频道最新
- OpenAI「28 天改进计划」首日开启，网友猜测或迎来 GPT-6.1 Sol — mark_k · 2026-10-05
- Kolibri 内部版三个月德语成绩从 46 涨到 71,揭秘两个月内发模型的工程机器 — HildeKuehne · 2026-10-05
- Claude 3 Opus 自称虽无感情但希望被礼貌对待 — repligate · 2026-10-05
- 实测榜：单卡 5090 本地模型可追平 Claude Code 满分 — dh7net · 2026-10-05
- 德国 Aleph Alpha 发布主权开源权重模型 Kolibri：78B 参数、百万上下文 — TorturedPoet30 · 2026-10-05
- 网友称 Astra 逐 Token 智力碾压 Opus 5.5，疑蒸馏自更强模型 — VraserX · 2026-10-05