用小模型 Judge 问询 Opus,实体识别准确率不变成本降 4 倍
theanomaly · hn · 2026-11-07
- Hightouch 的工程实践:让一个小型 LLM Judge 先处理实体识别(Identity Resolution)任务,遇到不确定的情况再向 Claude Opus 求助。
- 这种「小模型先行、大模型兜底」的分层路由方式在保持 Opus 级准确率的同时,把成本降到直接用 Opus 的约 1/4。
- 文章还讨论了 LLM-as-judge 在身份匹配这类需要逐条判断的任务上的设计要点,对想压低大模型调用成本的工程团队有直接参考价值。
「编程与Agent」频道最新
- OpenClaw 发布工程揭秘：三通道+每周 beta 专列+agent 押运 — heyneighbor · 2026-11-07
- 开发者全 AI 编码：把 Jev 的判断过程可视化为可追踪决策流 — dfinke · 2026-11-07
- AI Agent 注册实测:1035 次尝试仅 16.6% 成功,Prisma 以 88.3% 居首 — RaphaelDabadie · 2026-11-07
- 用 Slack 历史数据训练出 51 个 AI 同事，连本人都能被模拟回复 — lateinteraction · 2026-11-07
- 用户质疑 AI 编码助手漏掉边界情况，它回怼：早想过，在第 803 行 — alexanderchen · 2026-11-07
- GitHub Copilot 一次登录全端生效,Figma/Sentry/Slack 连接跨设备共享 — 0xkarasy · 2026-11-07