自我改进 Agent 优化推理栈，B200 上实现 18% 加速

yisongyue · x · 2026-08-08

AsariAILabs 展示了 AI 推理优化的最新进展。他们利用自我改进的智能体，在 B200 芯片上通过 vLLM 运行 Inkling-NVFP4 模型时，成功在并发数为 2 的情况下实现了 18% 的性能提升。

团队指出，AI 推理是一个涉及模型、软件栈、芯片和具体用例的多维复杂工程。他们正在开发的自我改进 Agent 正逐渐演变为下一代编译器，能够自主优化整个软件系统，以适应快速迭代的 AI 竞赛需求。