Kimi K3 2.8T参数开源模型在80张RTX 5090上跑出20 tok/s，零HBM需求
markjeffrey · x · 2026-07-28
Kimi K3 模型拥有2.8万亿参数，在80张RTX 5090显卡上实现单流20 tok/s的推理速度，无需HBM显存，仅使用GDDR7游戏显卡和普通以太网。该模型采用官方MXFP4权重，未重新量化，是首个在消费级GPU上运行的前沿开源模型。任何实验室、初创公司或大学均可拥有、探测、微调并运行智能体。
所属事件:Kimi K3 2.8T模型零HBM跑出20 tok/s(2 条相关)→
「Infra」频道最新
- Ben Bajarin 复盘：AI 最大误判是低估 GPU 供应链浪潮 — BenBajarin · 2026-07-28
- 摩根士丹利称 AI 推理业务可带来 58% 到 90% 数据中心利润率 — sudoraohacker · 2026-07-28
- Palantir 称其美国政府 AI 平台基于开源权重和 NVIDIA GPU — eliano · 2026-07-28
- Kimi K3 上线 Dell 服务器，支持 day-0 本地部署 — _akhaliq · 2026-07-28
- engy.ai推出已验证推理API，支持GLM-5.2等开源模型，提供加密证明 — markjeffrey · 2026-07-28
- Kimi K3 据称已在 80 张 RTX 5090 上零 HBM 运行 — markjeffrey · 2026-07-28