Scaledown 专精小模型宣称推理快 200 倍、成本低 467 倍
cneuralnetwork · x · 2026-10-13
作者关注 scaledownteam 的工作:延续「用专精模型做决策」的思路,把 specialized models 从分类/决策扩展到信息抽取、摘要和上下文压缩。推理方式上,模型不做逐 token 生成,而是一次读取输入直接定位相关内容,宣称最高快 200 倍、便宜 467 倍,且全系支持 1M token 上下文。作者认为这一思路合理,类似 Jev 用专精模型做决策的做法被推向更广的应用面。
「Infra」频道最新
- Intel 多代 CPU 涨价 15-20%,AMD 预计跟进推高算力成本 — TheZachMueller · 2026-10-13
- Mistral 模型上天：加入 50 颗卫星的 AI 星座，NVIDIA 提供算力 — MistralAI · 2026-10-13
- NVIDIA 617.42 驱动疑似坑惨 ComfyUI:三张 5060 Ti 全翻车,回滚 616.92 解决 — DoubleNothing · 2026-10-13
- a16z 图表：Agent 用量已远超人类，7 日均值 7.3 万亿 tokens、暴涨 14 倍 — dfinke · 2026-10-13
- 15 台山寨 Android TV 盒子拼出 Gemma4-26B 分布式推理,每台约 55 美元 — SporksInjected · 2026-10-13
- GPU 算力优化被称为「AI 界的高频交易」，人类手感仍是刚需 — AccBalanced · 2026-10-13