后台大模型只在失手时介入,影子点拨能省下大量成本
dotey · x · 2026-07-21
- 这条帖提出一种叫 shadow steering(影子点拨) 的工作流:平时让便宜的小模型干活,更聪明的大模型只在后台待命,几乎不输出,只维持一个可复用的 prefill KV 状态。
- 当框架检测到小模型质量下滑、任务快要做不下去时,大模型才短暂介入,给出一小段关键指导,让小模型继续往下跑。
- 作者认为,这种方式可以用于 降低中等模型成本、做蒸馏、做测试、以及 采集长程任务质量信号;因为点拨发生在轨迹内部,属于更自然的 on-policy 干预。
- 帖子最后还基于这则“新闻”做了推测:DeepSeek 下一代模型可能已经训练完成,正在影子测试,用户感受到的是它的智力提升而非正式发布。
「编程与Agent」频道最新
- 开发者用 GPT-6 Astra 搭配 Hyper3D Rodin 做出交互式 3D 产品展示 — nikola_mr64990 · 2026-09-11
- Codex 用户实测:Sol 搭配 Astra/Luna 子代理更省额度 — pvncher · 2026-09-11
- 开源 Agent Skill 2.3k 星:生成 MVP 蓝图并审计重构 agentic harness — tom_doerr · 2026-09-11
- Cognition SWE-2 用 KKT 对偶优化长度惩罚,一次 RL 推移 Pareto 曲线 — YouJiacheng · 2026-09-11
- 首届 Three.js 大会落地巴黎,AI 正缩短从想法到原型的距离 — OdinLovis · 2026-09-11
- 观点:Agent 真正的瓶颈是企业数据工程能力 — dhruv2038 · 2026-09-11