Mike Jordan 团队新论文:用拍卖机制分配 LLM 推理算力

nhaghtal · x · 2026-10-10

研究者(含 Mike Jordan)发布新论文《Inference Auctions》,提出在 LLM 推理服务平台之上引入经济层:不再把资源分配与系统效率分开处理,而是用拍卖机制让用户表达对延迟/优先级的真实偏好。配套还设计了推理拍卖的自动竞价器(autobidder),用户只需设定推理预算,系统动态调整出价,在预算约束下最大化用户效用。

所属事件:Mike Jordan 团队提出 Inference Auctions:用拍卖分配推理算力(6 条相关)→

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →