AST:按轮廓系数自适应分支构建语义 ID,优于固定分支方法
_reachsumit · x · 2026-11-11
arXiv 论文提出 Adaptive Silhouette Tree(AST),改进生成式推荐模型中的语义 ID 构建:
- 核心洞察:现有方法用残差或分层向量量化生成语义 ID,假设各层 token 语义独立;但语义 ID 实际是层级路径,每个 token 的含义取决于其前缀,固定码本量化与此不匹配。
- 方法:AST 用自顶向下的分裂聚类把语义 ID 构建成树路径,每个节点的分支数由最大化轮廓系数动态决定——密集区域分得更细,同质区域合并得更紧凑;还引入约束变体,在分裂时强制最小概率质量以改善长尾物品的监督。
- 结果:在五个不同规模和领域的 Amazon Review 数据集上显著超越强基线。
「研究」频道最新
- 前字节 Seed 顾全磷创业 4 个月出 NovaAtom,抗体预测碾压 AlphaFold 3 — CodeByPoonam · 2026-11-11
- DeepMind 首秀:数十个 Gemini 代理攻克核聚变微分方程 — _onionesque · 2026-11-11
- 研究:小模型 NLI 任务上,简单 prompt + 少样本胜过复杂技巧 — rohanpaul_ai · 2026-11-11
- Martine 基准发布:多视角 3D 表面重建跨视角、分辨率与光照评测 — ssh4net · 2026-11-11
- 博主算账:40 万 token 上下文里 token 身份仅占 KV cache 信息量 0.00082% — aryaman2020 · 2026-11-11
- 图学习会议 LoG 2026 落地波士顿,11 月 20-22 日东北大学举办 — chaitjo · 2026-11-11