单张 3090 跑 Qwen 27B 自主编码 21 天,交出可用 CUDA 内核

Reddit 用户 skeole 在单张 RTX 3090 上本地运行 Qwen3.8-27B(Q4 量化)智能体,让其循环自主运行约 21 天,任务是为该 GPU 架构自建 CUDA 推理引擎。全程几乎无监督、无人工手写 CUDA,仅约 12 次人为提示,最终交出可用成果,实测推理速度达上百 token/s,展示了长程 Agent 实验的潜力。

2026-09-21 ~ 2026-09-22 · 2 条相关