R3Con 框架:3B 小模型超越 Claude Sonnet,成本仅 1/3.7
StellaLisy · x · 2026-10-15
华盛顿大学团队提出 R3Con Harness,基于认知科学中的「相关性实现」(Relevance Realization)理论,为大语料推理构建有原则的上下文表示。要点:
- 在两个大规模文档推理基准上,比最强基线分别高出 20 和 8.4 个百分点,对比九个 SOTA 方法。
- 免训练:4B/9B 小模型加持 R3Con 即可超越全部 35B 级基线;R3Con + Qwen3.5-35B-A3B 在 CorpusQA 上准确率 71%,超过 Claude Code 配 Claude Sonnet(70%/67%),总成本 $439 vs $1625/$1714,便宜约 3.7–3.9 倍。
- 结论:有原则的上下文表示可降低对模型规模的依赖,指向由更小模型驱动的前沿级性能。
代码已开源(github.com/michaeltheologitis/r3con)。
「研究」频道最新
- 论文揭示 LLM 工具调用判分的「推导缺口」:无参照即拒判 — Linhai Ma · 2026-10-15
- NCM 逐层解码揭示:文本生成从粗到细渐进补全细节 — Azaliamirh · 2026-10-15
- Epoch AI 新基准 SpireClimb:前沿模型杀戮尖塔胜率达90% — NathanpmYoung · 2026-10-15
- Nvidia 携 ChipAgents 推芯片设计基准,最强 agent 仅得 16.6% — teortaxesTex · 2026-10-15
- ICML 论文开源 108 个 OLMo 风格小模型,含约 3900 个中间检查点 — BrihiJ · 2026-10-15
- Google DuoDiscover 登顶 NVIDIA SOL-ExecBench,TPU 内核提速 2.68 倍 — lateinteraction · 2026-10-15