Constrained Decoding Models 发布：比前沿 LLM 快 200 倍、便宜 467 倍
omarsar0 · x · 2026-10-13
ScaleDown 发布约束解码模型（Constrained Decoding Models, CDMs），主打 1M token 多模态输入（文本+图像），支持分类、抽取、摘要三类任务。
- 架构思路：LLM 为生成而设计，但多数生产场景只需要答案；CDM 每个模型只做一件事，输入只读一遍，直接指向答案，跳过逐 token 生成循环
- 性能宣称：比前沿 LLM API 快 200 倍、便宜 467 倍
- 三款 CDM 已上线：Classify（返回校准概率+理由，用于路由/打标/意图识别）、Extract（自然语言描述实体，返回格式化 JSON）、Summarize
「Infra」频道最新
- Intel 多代 CPU 涨价 15-20%,AMD 预计跟进推高算力成本 — TheZachMueller · 2026-10-13
- Mistral 模型上天：加入 50 颗卫星的 AI 星座，NVIDIA 提供算力 — MistralAI · 2026-10-13
- NVIDIA 617.42 驱动疑似坑惨 ComfyUI:三张 5060 Ti 全翻车,回滚 616.92 解决 — DoubleNothing · 2026-10-13
- a16z 图表：Agent 用量已远超人类，7 日均值 7.3 万亿 tokens、暴涨 14 倍 — dfinke · 2026-10-13
- 15 台山寨 Android TV 盒子拼出 Gemma4-26B 分布式推理,每台约 55 美元 — SporksInjected · 2026-10-13
- GPU 算力优化被称为「AI 界的高频交易」，人类手感仍是刚需 — AccBalanced · 2026-10-13