腾讯 KuaFu 论文：把十亿级用户行为压缩成 2-4 个 token 的画像
_reachsumit · x · 2026-09-28
腾讯发表 arXiv 论文 KuaFu，提出一个基于 LLM 的用户画像系统，把每条用户行为压缩成少量可缓存的 token，并用 RL 训练抑制幻觉出来的用户兴趣。
要解决的工业界瓶颈
- 现行做法按任务从完整历史中截取子序列再训练专用模型，但单任务序列仍极长：兴趣摘要类任务每用户要读数百条行为，序列化成 prompt 达数万 token；
- 画像需按周刷新十亿用户，合计约 10 万 QPM，在固定 GPU 预算下构成硬性吞吐下限；
- 截断或粗糙压缩会引入四类幻觉（捏造、遗漏、日期错归、逻辑断裂），且无法直接评估压缩表示本身，只能表现为下游指标的模糊劣化。
方法
- 以单条行为为最小单元，用一个双轴投影器把每条压缩为 2-4 个 token、宽度 128-256（token 轴约 10 倍压缩、宽度轴 20 倍，每条缓存从 10KB 降到 0.5KB）；
- 采用面向保真度的四阶段训练，并配套分层中间评估。
「研究」频道最新
- 开发者逆向 90 年代 Mac 益智游戏打造新 RL 环境，agent 对战自动生成超难地图 — Michael_D_Moor · 2026-10-24
- Jon Barron 发现 softmax 与交叉熵实现暗藏两个 bug，简单重写即可修复 — agarwl_ · 2026-10-24
- NYU 与 UT Austin 论文揭秘：大模型为何越来越不会说人话 — menhguin · 2026-10-24
- PL 学者谈 AI 验证：程序员要的不是证明而是信心 — xennygrimmato_ · 2026-10-24
- DeXplicit:让灵巧操作世界模型显式预测3D物理状态 — liuziwei7 · 2026-10-24
- 14 款开源 OCR 模型横评：最佳识别历史书页达 97.6% 字符准确率 — IgorCarron · 2026-10-24