arXiv 原文:CPU-ARC 用 CPU 复用推理缓存,比原模型便宜 16-291 倍
rohanpaul_ai · x · 2026-11-22
arXiv 论文《CPU-ARC: Agentic Reasoning Caching for on-CPU Reasoning Reuse》(作者 Peter Belcak、Greg Heinrich、Saurav Muralidharan、Shizhe Diao、Pavlo Molchanov)指出,LLM 总是把「解题」和「执行解法」混为一谈,导致每个问题都从头推理。
论文提出 agentic reasoning caching:从 LLM 推理轨迹构造健壮的、CPU 可执行的推理缓存(ARC)。ARC 在多种困难的数学与科学任务上与前沿 LLM 表现相当,完全可解释、可持续训练、对输入扰动鲁棒,调用成本比源模型低 16-291 倍。技术报告共 28 页、9 图、11 表。
所属事件:NVIDIA 提出推理缓存新方法,同类问题成本降最多 291 倍(2 条相关)→
「Infra」频道最新
- 华为昇腾950DT报价达950PR三倍,良率与互联差异或是定价主因 — teortaxesTex · 2026-11-22
- 用《政事论》解读 AlphaChip:自掘之矿即王座 — krishnan · 2026-11-22
- SK 海力士 HBM4 良率据称突破 70%,Q3 全面量产出货 — Beth_Kindig · 2026-11-22
- Mflux 让 8GB Mac 跑 MOSS 图像生成:4 步蒸馏 768x768 仅 82 秒 — bio_risk · 2026-11-22
- Claude 或证黎曼猜想引热议:为何不重造 AI 的内存与推理成本? — Kitchen_Mirror_7247 · 2026-11-22
- Intel D270 AI 卡曝光:160GB LPDDR5X、350W,或售约 1 万美元 — Terminator857 · 2026-11-22