TMLR 接收录用：LLM 动态路由与级联推理综述
kalyan_kpl · x · 2026-09-01
Yasmin Moslem 宣布其论文《Dynamic Model Routing and Cascading for Efficient LLM Inference: A Survey》已被 TMLR (Transactions on Machine Learning Research) 接收。
该论文是一篇关于高效 LLM 推理的调研，重点探讨了动态模型路由和级联技术，旨在优化推理成本与延迟。
「Infra」频道最新
- 本地 Qwen 27B Agent 接管亚马逊账号，一次跑通自动买纸 — fuzhongkai · 2026-09-22
- CBS 60分钟：高尔夫球场用水是数据中心的2倍多 — SumitGup · 2026-09-22
- R9700+Strix Halo 实测：ROCm 仍领先 DeepSeek，Vulkan 追近差距 — Hrethric · 2026-09-22
- DeltaTensors 给微调模型做增量存储:953MB 压到 294MB — cupheadgamer · 2026-09-22
- 阿里巴巴发布新 AI 芯片，称其为中国最强 — AIFlow_ML · 2026-09-22
- DGX Spark 本地跑编程模型:该用什么量化与工具链? — be566 · 2026-09-22