InferenceForge 用编码 Agent 自动调优推理,Kimi K3 吞吐超基线 43%

kaiweichang 团队与 Agent Economics 团队发布 InferenceForge,一个面向 agent 工作负载的 LLM 推理自动画像、基准测试与优化系统。它由现成编码 agent 驱动,在自定义环境中闭环迭代:分析工作负载、定位瓶颈、实施修复并验证改进,实现 SLA 感知的推理优化。在 SemiAnalysis 相关评测中,经三次修复后将 Kimi K3 服务的吞吐提升至超出公开最佳基线 43%。

2026-11-14 ~ 2026-11-14 · 3 条相关