用 100 道 zebra puzzle 微调 Qwen3 4B,MATH-500 提升 31%
TGSCrust · reddit · 2026-09-11
作者在 Hugging Face 发布了 pcss 复现博客:仅用 100 道 zebra 逻辑谜题对 Qwen3 4B Base 做微调,即在 MATH-500 上取得 +31% 的提升,且训练只需单张 H100/H200 跑 6.5 分钟。
亮点在于极低的成本门槛:配套提供了完整可复现的 notebook,任何人都可以在单卡上验证这一结果,展示了小规模高质量推理数据微调对小模型数学能力的放大效应。
「模型」频道最新
- GPT-6.1 Terra 控制真机器人胜过 Opus 5.5,较三月前提升 3.7 倍 — ycombinator · 2026-10-28
- Kimi 发布 K3.1 Pro:3T 级开源权重模型,100 万上下文幻觉降 65% — NVIDIAAI · 2026-10-28
- OpenSIR 自博弈框架:LLM 无需训练数据自学数学推理 — PMinervini · 2026-10-28
- Claude Opus 5.5 从二进制重建 SQLite 等程序,ProgramBench 得分 18.5% — winer666 · 2026-10-28
- Codex 后台任务一夜烧光 500 美元周额度外加 75000 credits — sethlazar · 2026-10-28
- 用 $TAO 两分钟上手开源模型:Bittensor 侧链 SN53 实测体验 — markjeffrey · 2026-10-28