Kimi-K3 本地实测仅 0.23 tok/s，双 6000 PRO 也很慢
Aroochacha · reddit · 2026-07-29
有人把 Kimi-K3 跑到了本地，并给出了相当慢的吞吐实测。
- prompt eval：40 tokens / 97.5 秒，约 0.41 tok/s
- eval：400 tokens / 1769.9 秒，约 0.23 tok/s
- 总计 440 tokens / 1867 秒，约 31 分钟
- 运行环境是高配工作站：9965WX PRO、512GB DDR5、双 RTX 6000 PRO 96GB，外加 NVMe RAID 存储。
- 原帖还提到下一步要把这台工作站接入 100GbE fabric 供 RPC 使用。
「编程与Agent」频道最新
- 四个 Gemini 4 Argon 智能体27小时通关 Minecraft 击败末影龙 — robertarail · 2026-10-16
- 开发者晒沙粒自动修复组件：弄乱沙子会自动复原 — prasenx · 2026-10-16
- Agent 何时需要 API 网关：Reddit 热议直连与统一接口的分界线 — TurbulentStiffness · 2026-10-16
- 开源工具 optimAIzr 逐轮追踪 Claude Code/Codex token 浪费 — stichstichstich · 2026-10-16
- 本地部署实测:Gemma 4、Llama 3 与 Mistral 工具调用能力横评 — leslysandra · 2026-10-16
- 多 agent 指挥工具 Harness 冲上 Product Hunt 第 2 名 — dee_hw · 2026-10-16