antirez 补充:本地跑 Kimi K3.1 生成 1 token/秒需 128GB 内存
antirez · x · 2026-11-08
antirez 补充说明本地推理 Kimi K3.1 的内存门槛:1 token/秒的生成速度至少需要 128GB 内存;若有 512GB 内存,体验会好得多。
所属事件:antirez 的 DwarfStar 可本地推理 Kimi K3.1 PRO(4 条相关)→
「Infra」频道最新
- 嫌 200 美元订阅贵,买两台 Mac Studio 自部署模型反而不香 — elonmusk · 2026-11-08
- 银行员工实测 1.7B 本地模型:全程无外联,写邮件仅 2.5 秒 — Ok_Resolve4741 · 2026-11-08
- 马斯克背书太空算力构想:100GW/年或为SpaceX年增万亿美元营收 — elonmusk · 2026-11-08
- 常见 BF16 支持 GPU 的非稀疏 TFLOPs 对比表,维护者称其价值获验证 — TheZachMueller · 2026-11-08
- Starlink 单季新增 160 万用户,全球消费者用户达 1360 万 — XFreeze · 2026-11-08
- 利兹 AI 数据中心争议:用水量仅相当于 5 家洗车店 — danbri · 2026-11-08