16GB 显存实测 13 个模型跑 5 项算法任务,附开源基准仓库
Ok_Substance2327 · reddit · 2026-10-24
r/LocalLLaMA 用户发布其本地编码基准 V2:在 16GB 显存 + 32GB 内存的机器上,让 13 个量化模型跑 5 项算法编码任务(CSV 解析、表达式求值、分词器、调度、最短匹配),并开源了 GitHub 仓库 Tako88/coding-bench 供复现。
主要结果:
- Qwen3.8-27B (ASCII-Condensed) UD-IQ4XS + MTP:5/5,但输出冗长(157.4k token),耗时最长
- Cyber-Tiel Coder 35B-A3B + MTP:5/5 且最快最省,单任务仅数十至三百秒
- Ornith-1.5-35B:5/5,总输出最少(72.3k token)
- LFM2.5-24B、Mellum2.1-12B、Ling-3.0-tiny:仅 0-1/5,其中 Ling-3.0-tiny 全军覆没且每任务输出量雷同
- 帖子还公布了每个模型的采样参数(temperature、topp 等)与量化格式、上下文长度设置
作者收紧了任务设计并更换了模型阵容,超时上限 1800 秒,超时文件落盘后另行评分。
「模型」频道最新
- 单次最优跑分吹模型?研究员吐槽基准测试陋习 — remilouf · 2026-10-24
- 博主困惑:Grok bot 获欧盟批准,OpenAI/Anthropic/Meta 同类产品均未过 — kimmonismus · 2026-10-24
- 博主观察:最新 GPT 模型回复用户时像走仪式,并不真相信你在场 — louisvarge · 2026-10-24
- ISTA 发布 DeepSeek-V4.1-Flash 极限量化版:2 比特性能不掉,单卡 12GB 可跑 763B 模型 — Loginhe · 2026-10-24
- Reddit 用户指 Kimi K3.1 Pro 前端输出疑似照抄 Astra 模式 — GreedyWorry4167 · 2026-10-24
- 同一挑战实测:Opus 5.5 对决 Kimi K3.1 Pro 复刻游戏画面 — Scobleizer · 2026-10-24