Qwen 小模型网页审计实测
Annual_Manner_5901 · reddit · 2026-07-14
作者用自建的 CPU-first 推理服务器 REAME，在同一份真实网页上测试了四个模型做 SEO 审计的表现，重点观察它们是否会编造发现、是否能抓到真实问题，以及在本地 CPU 环境下的速度和资源占用。 测试结论： - **Qwen2.5-1.5B** 会乱编，比如说所有图片都缺 alt text，甚至复述了其实已经存在的 alt 文本。 - **OLMoE 7B-A1B** 表现不稳定，同一答案里会自相矛盾。 - **Qwen3-30B-A3B** 能发现真正的问题，但会把 159 字符的 meta description 估算成约 210 字，说明它会“估算”而不是精确计数。 - **Qwen3.5-9B** 在这组测试里最靠谱：结论正确、没有捏造问题，也没有乱算长度。 作者还补充了一个重要工程坑：Qwen3.5 系列混合了注意力和 Gated DeltaNet 这类循环状态结构，导致在 llama.cpp 的 speculative decoding / KV 截断场景里会崩溃。对维护本地推理栈的人来说，这意味着如果系统需要回滚序列状态，得特别检查这类混合结构模型的兼容性。仓库已开源，且包含可复现的 benchmark。