Poolside 称 100B 开源权重模型已可在 128GB MacBook 本地运行
gajesh · x · 2026-07-28
Poolside 的开源权重模型 Laguna S/XS 2.1 被描述为一次重要的本地 AI 进展:帖子称这款约 100B 参数的模型在效果上超过了更大的系统,而且已经能在 128GB MacBook 上本地运行。
与此同时,团队启动了 MLX.fast 公共竞赛,邀请外部开发者一起优化 Laguna XS 2.1 在消费级 Mac 上的 MLX 推理引擎。帖子给出的阶段性结果是已实现约 35% 的速度提升,并认为后续还有机会把吞吐再推高到基线的 2 倍以上。
「Infra」频道最新
- 报告梳理超大规模云厂的算力合作层级,neocloud 未必占优 — BenBajarin · 2026-07-29
- 在 M5 Max 128GB 上流式加载 1.6TB K3 权重仍很慢 — antirez · 2026-07-29
- Recursive Superintelligence 与 AWS 签下 4.1 亿美元算力协议 — ChengleiSi · 2026-07-29
- Intel 将 14A 制程提前至 2027 年风险试产 — Beth_Kindig · 2026-07-29
- Arav 说 AI 时代的新美国梦是拥有数据中心 — AravSrinivas · 2026-07-29
- NVIDIA 推出 Jetson 本地运行生成式 AI 的指南 — NVIDIAAI · 2026-07-28