ScaleDown 推出约束解码模型,比前沿 LLM 便宜 467 倍、快 200 倍
rohanpaul_ai · x · 2026-10-14
ScaleDown 发布三款小型「约束解码模型」（Constrained Decoding Models）：Classify、Extract、Summarize，专为 agent 工作流中那些常被交给昂贵 LLM 的简单重复任务设计。
- 核心思路：生产环境多数任务只需要「答案」而不是生成文本。CDM 不逐 token 写答案，而是对最多 100 万 token 的文本+图片做一次 prefill，直接从输入中选出标签、带偏移量的片段或短语，输出免费且结果严格落在标签或原文内。
- 价格与性能：$0.05/百万输入 token，号称比前沿 LLM API 快 200 倍、便宜 467 倍。
- 三个模型统一架构：Classify 返回带校准概率和理由的分类结果（路由/打标/意图识别），Extract 输出结构化 JSON，Summarize 处理长文档信息抽取（如从 300 页 PDF 提取到期日），并支持图片输入。
所属事件:ScaleDown 发布约束解码模型，宣称比前沿 LLM 快 200 倍(3 条相关)→
「编程与Agent」频道最新
- Gemini 4 Argon + Blender MCP 一把过:纯 3D 文件做出飞龙「动画」,非视频生成 — sidahuj · 2026-10-14
- Llamaforge v0.16：给 llama.cpp 加控制面板，本地 Agent 引用必须逐字可查证 — Sleepybear2611 · 2026-10-14
- hexvero：工具目录仅 3k token 的二进制分析 MCP，同类需 51 万 — ImaginationVarious30 · 2026-10-14
- OpenAI Decisions API 被质疑：云端往返延迟与隐私是否可行 — WhichCardiologist800 · 2026-10-14
- Factory 工程师：第三方 agent 框架可胜过 Claude Code 与 Codex — matanSF · 2026-10-14
- 八人团队 AI 规则各写一份对不上,teamai 统一管理 Skills 与规则 — sujingshen · 2026-10-14