开源引擎WASTE让普通笔记本跑通万亿参数Kimi K3

开发者近期推出了名为WASTE（Weight-Aware Streaming Tensor Engine）的开源C语言推理引擎，打破了巨型模型的硬件门槛。该引擎通过创新的权重感知流式张量技术，仅需29GB内存，便成功在普通消费级笔记本上运行高达2.78万亿参数的Kimi K3全量模型，并实现了约0.5 TPS的推理速度。这一突破极大降低了超大模型在端侧的部署与测试成本。

2026-08-01 ~ 2026-08-01 · 3 条相关

• 消费级笔记本跑通2.78万亿参数Kimi K3全量模型 — rickasaurus · 2026-08-01
• 开源引擎Waste：29GB内存即可跑Kimi K3 — galapag0 · 2026-08-01
• 普通笔记本跑 2.78 万亿参数 Kimi K3：WASTE 引擎实现 0.5 TPS — zainhas · 2026-08-01