Mike Jordan 团队新论文:用拍卖机制分配 LLM 推理算力
nhaghtal · x · 2026-10-10
研究者(含 Mike Jordan)发布新论文《Inference Auctions》,提出在 LLM 推理服务平台之上引入经济层:不再把资源分配与系统效率分开处理,而是用拍卖机制让用户表达对延迟/优先级的真实偏好。配套还设计了推理拍卖的自动竞价器(autobidder),用户只需设定推理预算,系统动态调整出价,在预算约束下最大化用户效用。
所属事件:Mike Jordan 团队提出 Inference Auctions:用拍卖分配推理算力(6 条相关)→
「Infra」频道最新
- 超大规模云厂商债券已占美债净新增borrowing显著比例,AI 资本开支转向债务融资 — QuintinPope5 · 2026-10-10
- Ben Bajarin:需求超供给 115%-120%,2027 成 AI 算力瓶颈之年 — BenBajarin · 2026-10-10
- AMD 破万亿后估值超 NVIDIA:分析师预警 3.2 亿认股权证压制股价 — pdamodaran · 2026-10-10
- 27B 4bit 模型 llama.cpp 仅 8-10 t/s,bitsandbytes 反而跑出 27 t/s — cephaloform · 2026-10-10
- 两大 H100 租赁价格指数周相关性仅 0.17,算力期货对冲存疑 — BenBajarin · 2026-10-10
- Chrome 新回声消除器让语音 Agent 词错率减半,不再自问自答 — chadwallacehart · 2026-10-10