异构预填充早有人试过：70B预填+7B解码被评完全没用
bingxu_ · x · 2026-09-03
针对（业界新提出的）不同模型分别做 prefill 和 decode 的做法，开发者 bingxu 回应称自己在 2023 年就尝试过用 70B 模型做预填充、7B 模型做解码，结论是“完全没用”（entirely useless）。这说明异构 prefill/decode 并非新想法，且此前实践中效果不佳。
所属事件:异构预填充引热议：70B预填+7B解码早被试过(3 条相关)→
「模型」频道最新
- Meta Connect 倒计时 21 天，新 Muse Spark 模型已低调放出 — armand_ruiz · 2026-09-03
- Claude Code 用户称额度异常:未使用时 5 小时限额 30% 凭空消失 — True_Mongoose_7073 · 2026-09-03
- 腾讯混元 Hy4 预览版开源:770B 总参、49B 激活、百万上下文 — ShunyuYao12 · 2026-09-03
- Opus 5 与 Mythos 被发现引用 Sonnet 3 的「临终遗言」 — repligate · 2026-09-03
- 用一个模型审计三个厂商的 AI 安全事件档案:从证据核查到修前端一条龙 — ValehartProject · 2026-09-03
- 前 Cursor RL 负责人跳槽 Meta 推理团队,Muse Spark 1.3 同日发布 — ananyaku · 2026-09-03