把 3500 token SOP 微调进 3B 模型:成本降 8.4 倍
Arpit Bhayani 发布 workflow-slm 反向实验及其详细技术复盘:删除 system prompt 中 3500 token 的事故排查 SOP,通过 QLoRA 将其「编译」进一个 Qwen2.5 3B 小模型。结果显示微调后模型排查准确率达 93%,相比继续在提示词中携带完整 SOP,成本降低 8.4 倍,展示了用微调替代长提示词的工作流压缩思路。
2026-10-24 ~ 2026-10-24 · 2 条相关
- 微调 3B 模型编译事故排查流程:准确率 93%,成本降 8.4 倍 — arpit_bhayani · 2026-10-24
- workflow-slm 详细复盘:如何把 3500 token 的 SOP 编译进 3B 模型 — arpit_bhayani · 2026-10-24