TypeSafe AI 发布实战 cookbook:批量提问省 12.2 倍成本提速 10 倍
hackgoofer · x · 2026-10-03
TypeSafe AI 团队发布系列 cookbook,展示其置信度驱动的问答原语在真实数据集上的用法:
- Self-consistency:重复同一决策并以多次运行的一致性作为信号,将不确定概率路由到人工复核,应用于内容审核等场景。
- Batching:把 13 个问题打包成一次请求,针对 GDPR 维基百科文章做监管简报,成本降 12.2 倍、速度提 10 倍且答案不变。
- Re-ranking:用 BM25 生成 30 条候选短名单,再逐对提问,使 40 个 CLERC 法律查询的 top-1 准确率从 5% 升到 18%,top-10 从 38% 升到 62%。
官方还开放 ZDR(零数据保留)与更高速率限制的企业购买渠道。每个 cookbook 都是可复制的完整代码起点。
「编程与Agent」频道最新
- VoidZero 双雄登 TypeScript.fm:谈 oxlint 类型感知 lint 与 Vite 未来 — cnakazawa · 2026-10-03
- AI 编程技术栈全景:两大实验室之外皆为渐进式组合创新 — alexmacgregor__ · 2026-10-03
- Reddit MCP Server 上线:免 API Key 让 AI 助手检索 Reddit 数据 — modelcontextprotocol · 2026-10-03
- Frenchie MCP 连接器:为 AI Agent 提供 OCR、转录与图像生成 — modelcontextprotocol · 2026-10-03
- Stripe 代理身份 API 早期用例:让可信 agent 替用户领免费试用 — jeff_weinstein · 2026-10-03
- repligate 展示 7290 万 token 记忆系统:模型可凭模糊描述检索原始经历 — repligate · 2026-10-03