Laguna 模型在 Mac 实现 203 TPS,联合发起 MLX 推理加速竞赛
morgymcg · x · 2026-08-07
Laguna S 2.1 模型在保持仅为 DeepSeek V4 Pro 6% 体积的同时,实现了更高的性能,并在 Mac 端达成了 203 TPS 的推理速度。
为进一步提升消费级 Mac 上的 MLX 推理效率,Laguna 团队联合 poolside.ai 发起了名为 MLX.fast 的公开竞赛,鼓励开发者协作优化推理引擎。
「Infra」频道最新
- SpaceX 算力目标曝光:明年需 20 个核反应堆供电 — DMaguireARK · 2026-08-07
- 构建 AI Agent 隔离沙盒:Firecracker microVM 是最优解吗? — ankush2324235 · 2026-08-07
- AMD 宣布收购 AI 推理公司 Taalas,强化推理算力布局 — xiaosun86 · 2026-08-07
- AI 算力狂飙催生“电子大米”短缺,中国 MLCC 供应链加速扩产 — pstAsiatech · 2026-08-07
- AMD收购Taalas:将大模型直接刻入芯片以提升推理性能 — itvision · 2026-08-07
- 突破 AI 内存墙:CXL 技术加速落地,Marvell 抢占先机 — BenBajarin · 2026-08-07