小模型工作流心得:给模型一个「review」逃生口,比逼它硬答更可靠

No_Appeal_5223 · reddit · 2026-11-06

作者分享使用小模型的实操心得:别让模型硬解所有问题,给它结果易于验证的窄任务,并留明确的「不确定」出口。

以客服消息分类为例,差的提示词是「给这些消息分类」——消息含糊时模型仍会被迫选一个标签,可能比不确定更糟。
更好的做法是先定义标签策略,再给出明确逃生口:billing=收费/发票、access=登录问题、bug=登录成功后功能故障、review=不明确/混合/超出范围;输出 id+标签+12 词以内理由;多个标签都可能成立时必须用 review。
用示例演示:模糊消息「无法访问账户,订阅可能被取消」被正确标为 review,而不是自信地误判成 access 或 billing。
提炼出的模式:任务 → 输入 → 规则 → 输出格式 → 不确定性规则 → 验证。
评估应看分类准确率、送审数量、重试率、延迟、总成本、人工纠正时间,而非「哪个模型答得漂亮」。他提到自己在用 Claude Haiku 5.5 做这类快任务,但强调原则适用于任何模型路由场景。

文末附上自己整理的 Haiku 5.5 提示词与工作流指南(已声明是自己的站点)。

「编程与Agent」频道最新