模型「降智」四种套路曝光：路由小模型、砍 juice 值、截断思考、MTP 提前收手
vista8 · x · 2026-09-12
中文技术社区热议一个现象：模型刚上线很聪明，用户量上来后就「降智」。评论区高赞回答总结了厂商四种常见省钱手段：
- 路由到小模型：系统判断问题难度，简单请求被路由到低成本小模型，但「简单」的判定标准对用户不可见，复杂问题可能被误判。
- 调低 juice 值：juice 是 OpenAI 推理模型的隐藏参数，控制思考深度。据社区从系统提示词逆向提取，满血 gpt-5.5 xhigh 的 juice 约 768，被灰度到降配池的用户可能只有 128，缩水 6 倍。
- 提前中断思考：即使分配了思考预算，系统也可能中途截断强制输出，表现为回答变快但逻辑链短、易跳步出错。
- MTP 提高小模型接受率：Multi-Token Prediction 机制下，若小模型中间输出「看起来还行」，系统就提高接受概率、提前终止大模型深度推理，在用户感知不到的边界省算力。
注：以上手段来自社区逆向与观察，未经官方证实。
「Infra」频道最新
- Intel 用 High-NA EUV 加工晶圆破百万片,业内首家;台积电 2030 年才跟进 — Beth_Kindig · 2026-09-12
- Foresight Institute 出资资助本地算力项目,单项最高 10 万美元 — niloofar_mire · 2026-09-12
- 1.5 万美元预算选卡：跑 DeepSeek V4 Flash 至少要 128GB 显存 — _TheWolfOfWalmart_ · 2026-09-12
- Cloudflare 新付费 Workflows 日志保留期从 30 天砍到 7 天 — HaktanSuren · 2026-09-12
- MiniMax H3 生态周报：多 GPU 推理、24GB 显存运行与 LoRA 新玩法 — optimisticalish · 2026-09-12
- USD.AI 以代币化GPU为抵押放贷,最大单笔一年从62万增至9810万 — antavedissian · 2026-09-12