推理实验室 Uzu 发布投机解码实现,首发支持 Qwen3.6 27B
awnihannun · x · 2026-09-04
AI 实验室 Uzu 宣布发布其投机解码(speculative decoding)实现,称为实验室成立以来最大的一次发布。首发支持 Qwen3.6 27B,对 Qwen3.8 27B 和 Muse Glimmer 的支持即将推出。
所属事件:Uzu 推理引擎上线投机解码，M5 上速度超 llama.cpp 三倍(3 条相关)→
「Infra」频道最新
- RunInfra 推出编程订阅计划：$10/月可用 19 个 agent 跑最快开源模型 — ycombinator · 2026-10-21
- Kimi K3 跑 vLLM + TPU v7 达每用户 391 tokens/s，megakernel 已开源 — woosuk_k · 2026-10-21
- TPN Bench 上线量化服务：上传 HF 模型即可生成 I-matrix 等量化版本 — const_reborn · 2026-10-21
- Turso 实现 MVCC,打破 SQLite 单写者瓶颈 — glcst · 2026-10-21
- Railway 全区域暂停新构建，网友质疑是否「vibe coding」惹祸 — AaronBergman18 · 2026-10-21
- a16z：超人类 AI 硬件设计不难，难的是从图纸到量产的五道坎 — a16z · 2026-10-21