把 3500 token SOP 微调进 3B 模型:成本降 8.4 倍

Arpit Bhayani 发布 workflow-slm 反向实验及其详细技术复盘:删除 system prompt 中 3500 token 的事故排查 SOP,通过 QLoRA 将其「编译」进一个 Qwen2.5 3B 小模型。结果显示微调后模型排查准确率达 93%,相比继续在提示词中携带完整 SOP,成本降低 8.4 倍,展示了用微调替代长提示词的工作流压缩思路。

2026-10-24 ~ 2026-10-24 · 2 条相关