阿里RecGPT-Mobile-V2:端侧行为预测模型技术报告
_reachsumit · x · 2026-08-26
阿里巴巴发布了RecGPT-Mobile-V2技术报告,介绍了一个端到端的端侧模型框架,用于根据用户行为预测下一次搜索查询。针对端侧部署的挑战(行为轨迹噪声多、多尺度、计算预算有限),该框架:
- 将异构交互转化为保留证据的轨迹。
- 通过领域适应和监督对齐建立推荐原生基础。
- 仅在分组推演满足落地和效用标准后,才应用推理成本优化。
- 最终通过低比特执行、结构化压缩和预算感知的设备-云路由,将教师模型蒸馏为紧凑的学生模型。
实验表明,该模型在保持准确性的同时显著削减了不必要的推理。
「Infra」频道最新
- 日企将在 ECCV 2026 共办 FOUND 研讨会聚焦基盘数据 — HirokatuKataoka · 2026-08-26
- 复现 GPT-2 仅需 48 美元,超强 AI 门槛或降至 500 元 — jennyzhangzt · 2026-08-26
- Akta 推出企业数据 API,为 Agent 提供结构化信息 — AppropriateAnt7344 · 2026-08-26
- AMD MI350X 跑通 Qwen3.6-35B:开源 Kernel 实现 8 卡 7.8 万 tok/s — SmilingGen · 2026-08-26
- MetricFire 发布 MCP 服务器,让 AI 查询监控数据 — PKMNPinBoard · 2026-08-26
- LLM 推理一次只算一个 step:连续批处理如何榨满 GPU — arpit_bhayani · 2026-08-26