决策/抽取专用模型兴起,保险理赔流程从 61.7 秒缩至 19.3 秒
max_gladysh · reddit · 2026-11-09
BotsCrew 工程师观察到一个行业转向:厂商开始推出刻意「少做」的专用模型,借用卡尼曼的框架可称为 System One 模型,以区别于通用慢速的 System Two LLM。
两类代表:
- 决策模型(OpenAI Decisions API、TypeSafe Jev、Cloudflare Clef):给定 prompt 和选项列表,返回带概率的选择。OpenAI 称 Decisions API 比普通模式快约 10 倍(演示约 100ms),输入 $0.10/1M tokens,输出免费。
- 抽取模型(Cloudflare Clairic,预览中):按定义的 schema 从文本或图像填字段,缺失值返回 null 而非编造。
适用场景是把 LLM「大材小用」的步骤换掉:意图分类、流程路由、是否转人工、邮件分诊、图像损坏判断、语音助手实时选情绪等。Cloudflare 的保险理赔 demo 将抽取、决策拆给专用模型、LLM 只写回复,耗时从 61.7 秒降到 19.3 秒。
作者提醒:这些产品都只有几周历史,数据多来自厂商自述,Clairic 只保证格式正确不保证内容正确。建议先盘点流水线中所有只输出标签/是no/单字段的步骤,按错误成本决定:便宜的用 System One 模型加异常队列,昂贵的仍需检索、校验、人工审核等 System Two 层包裹——100ms 内的错误答案依然是错误答案。
「编程与Agent」频道最新
- 研究称 AI Agent 约 18% 输出 token 是浪费，剪掉几乎不损成功率 — rohanpaul_ai · 2026-11-09
- 实测 20 任务：Lovable 就是 API 价的 Opus 5.5，Claude 订阅便宜约 45 倍 — PawelHuryn · 2026-11-09
- 资深工程师谈 AI 时代学习法：亲手写代码才能养出品味与所有权 — Abhishekcur · 2026-11-09
- 开源 Prefixwise 诊断 prompt 缓存失手：19 种成因，实测省回 99.9% — No-Individual159 · 2026-11-09
- 程序员花 12.5 个月业余时间打造本地版「Claude Code 管会议」 — Jazzlike-Swing-6198 · 2026-11-09
- 强制全员 AI 编码一年后：代码库膨胀3倍没人看得懂 — TechPreacher · 2026-11-09