4B 模型加 8K 上下文堆算力反而更差，Hermes 提出上下文推理新思路
mangahomanga · x · 2026-10-16
Nous Research 的 Hermes 团队分享了一个反直觉发现：给一个 4B、仅 8K 上下文窗口的模型堆更多测试时算力，性能不升反降。
团队指出，跨上下文窗口的扩展靠的不仅是行内推理（inline reasoning），而是一种现有 benchmark 严重低估的智能体能力——上下文推理（contextual reasoning），具体包括：
- 知道何时、如何把任务委派出去；
- 决定在压缩的推理摘要里保留什么信息；
- 如何从这些摘要继续推理。
Hermes 的价值在于把多个简单但有力的想法组合起来，用小模型训练这种未被充分测量的能力，并实现灵活的测试时扩展（flexible test-time scaling）。这提示小模型在长程智能体任务上的正确路径可能不是更大上下文或更多算力，而是学会管理自己的推理状态。
「编程与Agent」频道最新
- Grok bot 读不到自身用量数据，卡住 Agent 集群编排 — adam_dorr · 2026-10-16
- Simular 在 BayLearn 展示神经符号化计算机使用 Agent — xwang_lk · 2026-10-16
- 66% 的十亿美元级公司不修关键漏洞,AI 找 bug 热潮被泼冷水 — rseroter · 2026-10-16
- Claude Code 更新 190 项改动，用户提醒关闭自动压缩保对话质量 — repligate · 2026-10-16
- Spring 创始人 Rod Johnson 发文:Context Layer 是关键 AI 基础设施,并推出 Embabel Worlds — springrod · 2026-10-16
- 「cuckcoding」新梗：坐着看 Codex 改你的代码库 — heyneighbor · 2026-10-16