端侧推理大突破:Laguna XS 2.1 在 M5 Max 上跑出 200 TPS
gajesh · x · 2026-08-12
Laguna XS 2.1 在 M5 Max 芯片上的解码速度成功突破 200 TPS，相比两周前的 75 TPS 实现了大幅飞跃。
这一成绩得益于开源社区的协作与 @poolsideai 的推动。团队原本的目标仅为 100 TPS，此次突破为端侧大模型的高效推理提供了新的性能标杆。
「Infra」频道最新
- AI芯片良率焦虑：晶圆级测试为何成算力供应链关键？ — demian_ai · 2026-08-12
- RTX 4080 跑 Minimax Ref2V 频繁爆显存，如何生成长视频？ — witcherknight · 2026-08-12
- Nvidia RTX 6000 Pro 官网标价飙升至 1.6 万美元 — Norwood_Reaper_ · 2026-08-12
- 淡马锡拟直接投资三星与 SK海力士，芯片股大涨超 8% — firstadopter · 2026-08-12
- 马斯克畅谈算力愿景：明年达 10GW，AI 推理将走向太空 — elonmusk · 2026-08-12
- AI数据中心高负荷为德州居民带来电费节省 — toptickcrypto · 2026-08-12