AI 工厂造出 20 个推理引擎,覆盖 7 类模型全由 Agent 编写

bingxu_ · x · 2026-09-28

INT21 展示了其「推理引擎工厂」:目前已有 20 个由 AI Agent(Swarm)编写的 Rust 推理引擎,覆盖语言、图像、视频、语音、音乐、转录、视觉 7 类模型,支持 NVIDIA H100/B200/B300 三代 GPU,并正从超低延迟推理扩展到高吞吐推理。

网站为每个引擎提供 15 秒实机运行影片,包括 DeepSeek V4.1 Flash、DiffusionGemma、GLM 5.3、Kimi K3、Qwen3.8 Flash Next 等(部分模型名称未见公开发布,真实性存疑)。转发者 Bing Xu 感叹:人工编写的 AI 软件很快将成为历史。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →