Kimi K3 全量微调上线:MXFP4 推理误差极小
burny_tech · x · 2026-08-30
Applied Compute 宣布在 AC2 平台上线 Kimi K3 全量微调功能。通过内存优化,训练副本所需的 GPU 数量减少了约 40%。实测数据显示,bf16 训练前向传播与 bf16 推理引擎之间的 KL 散度,与 bf16 训练器和 MXFP4 推理引擎之间的差异几乎相同,表明 MXFP4 在保持精度的同时显著提升了效率。
所属事件:Kimi K3全量微调上线AC2 单副本GPU需求降40%(3 条相关)→
「Infra」频道最新
- 同样 1000 个 Cloudflare Durable Objects,月成本从 4050 美元压到 22 美元 — threepointone · 2026-10-16
- NVIDIA 发布 Qwen3.8-Flash FP4 量化版,主打本地部署 — nvidia · 2026-10-16
- 百度提出 Virtual Head Attention:同时压 KV cache、算力并保质量 — baidu · 2026-10-16
- DuoDiscover 让 Agent 自建快速评估代理,TPU 内核提速 2.68 倍 — berkeley_ai · 2026-10-16
- Google 将 2026 年资本开支上调至最高 2050 亿美元 — emmanuelvivier · 2026-10-16
- Google 开源 AX:像 Kubernetes 一样编排数十亿 Agent 任务 — thisdudelikesAI · 2026-10-16