128GB 统一内存笔记本实测:gemma4:e4b 本地跑出 122.8 TPS
ollama · x · 2026-11-04
burkeholland 在收到一台 128GB 统一内存笔记本后用 Ollama 实测多款本地模型的速度:gemma4:e4b 热态吞吐 122.8 TPS、冷启动首 token 8.65 秒,qwen3-coder:30b 达 90 TPS,gemma4:26b-a4b 86.9 TPS,gpt-oss:20b 60.7 TPS,qwen3.8:latest 仅 25.3 TPS。他感叹笔记本跑本地模型的速度「快得离谱」,这份数据对关注端侧部署的用户有直接参考价值。
「Infra」频道最新
- DeepSeek 仅自供 17% token,另有 19 家推理商各占至少 1% — AccBalanced · 2026-11-04
- 入职工安全一个月:长寿命共享 API 密钥该淘汰了 — victorialslocum · 2026-11-04
- 观点:AI 数据中心建设暂缓反而利好超大规模云厂商 — pdamodaran · 2026-11-04
- 聚变投资逼近 100 亿美元,美国 56 亿对阵中国 25 亿 — StewartalsopIII · 2026-11-04
- 2.78 万亿参数 Kimi K3 纯 CPU 推理,8.24GB 内存即可跑 — FareedKhan-dev · 2026-11-04
- 文件曝 Anthropic 每月付 xAI 12.5 亿美元租用约 32.5 万块 GPU — Aiden_Tech_Ai · 2026-11-04