16GB 老显卡跑 Qwen3.8 Coder,Strata 极致量化显神通

evilsocket · x · 2026-10-01

安全研究者 evilsocket 演示用 Strata 在一张 16GB 显存的 NVIDIA GPU 上运行 IQ1M 极致量化版的 qwen3.8-flash-next-coder。这种激进量化让消费级显卡也能本地跑大参数编码模型,是端侧部署玩家的实用玩法。

所属事件:Strata 推理引擎:16GB 显存本地跑 125B 量化模型(2 条相关)→

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →