用 Jev 做实体消解:成本降 99.56%,吞吐升 7.35 倍,附 prompt 与踩坑
hrishioa · x · 2026-09-20
Southbridge.AI 的 Hrishi Olickel 发布长文,讲如何把 TypeSafe 的 system-one 模型 Jev 用进高吞吐数据管道,以俄亥俄州竞选捐款数据(donor 与 committee 实体匹配)为例:
- 结果:Jev 作主力 + hank 优化后,模型成本降低 99.56%(基线 Fable 处理困难子集需 $9.83/1.2MB,优化后 $0.3012,成本降 32.6×),单次调用吞吐达基线 7.35×,匹配质量仍接近 Fable(199/200 families)。
- 架构:将证据分批(52 batches / 200 families / 903 rows),先用便宜模型处理多数批次,仅将少量疑难案例升级给更强模型(如 gpt-5.6-luna 高思考 + gemini-3.7-flash 复核 referred 案例),每个调用克隆 codon、由 runner 绑定模型而非 hank。
- 代价:用错信号或 prompt 方式会在规模上造成大错——「没有免费午餐,只有补贴午餐」。
- 文末给出可复用的 prompt 与集成原则。
「编程与Agent」频道最新
- ChatGPT 额度用尽改用 Claude 三天,Hermes Desktop 更新 2900 项改动 — seanwbren · 2026-09-20
- 问遍 58 家律所,只有 1 家算得清 AI 花在每个案件上的账 — jkubicki · 2026-09-20
- 开发者直播造 Bot 玩 ThursdayArena,从 2138 名选手冲到第一 — tetsuoai · 2026-09-20
- 一觉醒来欠 3.6 万美元:Cloudflare 无硬性消费上限的避坑指南 — ThePeterMick · 2026-09-20
- 用 VPS + Tailscale 给 AI Agent 搭一台常驻私有服务器 — EXM7777 · 2026-09-20
- Qwen 27B 一次性 prompt 生成三版「超级马里奥」复刻 — EcstaticDentist · 2026-09-20