Laguna S2.1 新实现：M5 Max 生成 50 tok/s
antirez · x · 2026-07-24
作者表示，GGUF 上游格式变了，所以实现也在同步更新以兼容新的版本。
与此同时，DwarfStar 的 laguna-s2.1 分支里已经加入了一个由 GPT5.6-Sol 编写并手动测试过的 Laguna S2.1 实现；在 M5 Max 上，当前大约能做到 50 tokens/s 的生成速度 和 500 tokens/s 的 prefill。现阶段只支持 Metal，其他后端据称可以再由 GPT5.6-Sol 继续补。
所属事件:GPT5.6 几乎独立写出 Laguna S2.1 推理实现(3 条相关)→
「Infra」频道最新
- Anthropic S-1：4300 亿美元算力合同不可取消，超过中国全年军费 — Hesamation · 2026-10-27
- Tenstorrent 融资 15 亿美元，估值 62 亿较去年翻倍以上 — Beth_Kindig · 2026-10-27
- Anthropic 拟向 SpaceX 采购 1205 亿美元算力,满载后月付约 31 亿 — XFreeze · 2026-10-27
- 恶搞：用 JEV 决策模型替换 Raft 共识，写入吞吐暴跌 99.98% — irombie · 2026-10-27
- Cadence 进入领域专用 AI 模型赛道,芯片设计自动化再加码 — karlfreund · 2026-10-27
- Qdrant 自研 Universal I/O:向量库 mmap 无缝迁移到对象存储 — qdrant_engine · 2026-10-27