Kimi K3 被实测跑在 80 张 RTX 5090 上
panchovix · reddit · 2026-07-28
有人把 Kimi K3 跑在了 80 张 RTX 5090 上,并通过 25GbE 以太网 连接。
- 这条帖子的看点不在模型发布,而在于大规模消费级 GPU 集群的实际部署方式。
- 重点是:用以太网把这么多显卡串起来,说明有人在尝试把高端本地推理做成“超大卡池”配置。
所属事件:Kimi K3 跑通 80 张 RTX 5090,消费级 GPU 自托管方案引热议(8 条相关)→
「Infra」频道最新
- 新 scaling law 发现:部分规模下重复训练胜过改写 — burny_tech · 2026-07-29
- SK hynix 日内巨震,HBM 盈利能力继续上行 — basedjensen · 2026-07-29
- WeCommerce 用 Weaviate 做氛围搜索,商品不靠关键词也能找 — victorialslocum · 2026-07-29
- UltraEP 把 MoE 实时均衡带进小红书机架级推理栈 — 机器之心 · 2026-07-29
- Cloudera 称 45% 医疗机构仍拿不到 AI 所需全部数据 — DavidLinthicum · 2026-07-29
- 用 grammar 约束,本地模型终于不再把 JSON 写坏 — paulqq · 2026-07-29