本地跑 Kimi K3.1 要 3 万美元,博主称私有推理值得这个价
bookwormengr · x · 2026-10-31
博主 bookwormengr 力赞 Kimi K3.1,称其为「exceptional」的模型,并算了一笔本地私有推理的账:一台能跑 K3.1 的机器约 3 万美元(「一辆车的价格」),如果未来需要一个完全对齐自己兴趣的私有大脑,这个价格很值。
被引用的 @bingxu 则算出另一笔账:同样的盒子跑 K3 产出与 GPT-6.1 Terra 相当的 token 量需要连续运行 4.76 年,还不算电费,批评这是资源浪费。博主对此回应称 Terra 虽然在跑分上更强(可能是架构与蒸馏突破),但实战不如 K3.1,且 K 系列还会持续迭代到 3.2、3.4、3.5,效率会不断提升。
「Infra」频道最新
- K210 芯片跑 YOLOv2 人脸识别，自研固件冲上 30fps — alexcovo_eth · 2026-10-31
- 「可玩环境」来袭：毫秒级复制整套生产云供 Agent 沙盘推演 — matei_zaharia · 2026-10-31
- Apple 芯片性能过剩：只有本地跑 LLM 和剪 8K 视频的人能感知差距 — vivekhaldar · 2026-10-31
- 把 Ming-TTS 移植到 Zig/MLX,M4/M5 上推理提速 18 倍 — s_busso · 2026-10-31
- 推理云 Wafer 日token量冲至 OpenRouter 第三，达 1.9T — ycombinator · 2026-10-31
- 一行 torch.index_add_ 即可指纹识别具体 GPU，重启也无法伪造 — CatAstro_Piyush · 2026-10-31