独立开发者 GYRO 量化实测:体积更小却达 ISTA Q3 水平

PlasticRevenue4601 · reddit · 2026-10-16

Reddit 用户实测了 Agantai 的 GYRO 系列低比特量化版 Qwen3.8-Flash-Next(GGUF),声称其 KLD、top-1 准确率和体积均优于 ISTA-lab 的量化,作者用三天测试验证了这些说法。

测试配置:GYRO fork of Strata 推理、GYRO-M 量化、200k 上下文、KV cache k8v4、temperature 1.0 / topp 0.95、思考档位 xhigh。

实测结果:

结论:GYRO-M 实际水平接近 ISTA Q3 但体积小得多,出自单人之手,堪称个人对抗团队并获胜的范例。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →