Kimi K3 三个月后:1.56TB 全量模型本地难跑,排名已被追平

Sanbi_Ai · reddit · 2026-10-17

作者复盘 Kimi K3 发布三个月后的真实使用状况:模型全量 1.56TB,2.8T 参数必须全部加载,104B 激活参数省不了内存;Unsloth 推荐 1-bit 量化 594GB、2-bit 861GB,512GB 内存机器装不下;1-bit 与全量模型 next-token 一致率约 79%。B200 上约 20 tok/s,官方 API 也只有 43 tok/s,agentic 基准单任务平均近 1 小时、超 $10。AA 指数已跌至 44,GLM-5.3(753B) 45 分、Step 5 Preview 44 分追平。作者还提醒许可证并非 MIT:12 个月内总收入超 $2000 万的 model-as-a-service 公司商用需与 Moonshot 另行授权,即便 K3 本身不产生收入。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →