Qwen 3.5 4B 本地跑通隐藏测试拿 10/10,关键只是换一个 API 端点
Ok-Brush8377 · reddit · 2026-11-14
作者在 16GB M4 MacBook Air 上全离线测试 Qwen 3.5 的 4B 和 9B 量化版(q4km GGUF,llama.cpp),用原子化 agent + 单次限时运行写 Python 记账应用,由模型看不到的隐藏测试打分。
结果
- 4B 写单个 CSV 加载器函数(双银行格式、欧式数字 -1.234,56、BOM、引号内分号、去重):15 分钟时限内拿到 10/10
- 9B 同任务仅 7/11 分钟拿 7/10;9B 写完整 5 模块应用 25 分钟只得 22/50,逻辑强(周期支付 9/10)但 CSV 边界情况 1/10
- 速度约 10 tok/s 生成、50-80 tok/s 预填充
关键踩坑
最初两模型全得 0 分——问题不在逻辑而在文件损坏。原因是用了 llama-server 原生 /completion 端点配 JSON grammar 做工具调用,模型须把整个 Python 文件写成转义 JSON 字符串,小模型转义常出错(\n 变真实换行、多余引号)。改用 OpenAI 兼容的 /v1 端点后,由 Qwen 自带 chat template 处理工具调用,文件内容以纯文本传输,所有文件即恢复正常。
作者注:每配置仅跑一次、单一任务单机,修复后未重跑 4B 全应用测试。
「编程与Agent」频道最新
- Sierra 发布个人智能体协议 Poppy v1.0,已接入 Meta Muse 与 100 家伙伴 — yenkel · 2026-11-14
- Gensyn 办证据挖掘 Agent 竞赛，7250 美元奖池押注因果归纳 — benfielding · 2026-11-14
- 用一条 prompt 让 LLM 纯 JS 画出「手绘感」杰作 — adonis_singh · 2026-11-14
- Superconductor 接入 Loops MCP,编码 Agent 可直接管理邮件营销 — sergeykarayev · 2026-11-14
- 开源 Harness Tuner：让 Claude Code 自动调优 agent，失败率降 2.5 倍 — davernow · 2026-11-14
- 让 PR 百发百中的怪招：录两小时手写 Neovim 视频附上 — yacineMTB · 2026-11-14