Laya 用 322M 小模型替代 LLM-as-a-judge,9 天斩获 2.6 万星

AIFrontierReads · reddit · 2026-09-28

Laya 把路由、分诊、是/否判断等决策任务变成小模型的结构化类型化输出而非生成文本,提供仅路由 CLI、分诊预设,以及置信度低于阈值时的弃权门。作者在 CPU 上完整跑通教程(含法语工单分类),实测 minconfidence=0.90 时它对一处本会误判的案例选择弃权;CPU 热延迟约 0.7 秒/问。注意其校准缺陷:checkpoint 普遍过度自信,不要盲信分数。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →