开发者用单张 RTX 3090 同时跑 4 个编码 agent

开发者发布自研 CUDA megakernel 引擎 OpenJet 的新版本，专为 Qwen3.8-27B Q4KM 量化模型打造，可在一张 RTX 3090 上同时服务 4 个编码 agent，总吞吐约达 290 tok/s，性能接近 llama-server 水平，展示了消费级显卡运行多 agent 编码工作流的可行性。

2026-10-27 ~ 2026-10-27 · 2 条相关

• 单卡 RTX 3090 同时跑 4 个编码 agent，自研 CUDA 引擎达 290 tok/s — Adorable_Weakness_39 · 2026-10-27
• 一张 RTX 3090 同时跑 4 个编码 agent,自研 CUDA 引擎达约 290 tok/s — Adorable_Weakness_39 · 2026-10-27