20 小时、2 亿 token 的任务让大规模后训练几乎不可行
nrehiew_ · x · 2026-09-03
作者论证长程任务可视为某种分布外评测的代理：当单个任务耗时 20 小时、消耗 2 亿 token 时，对其进行大规模后训练极其困难——需要面对基础设施噩梦与上下文压缩问题。这解释了为何此类任务能较好检验模型的真实泛化能力。
所属事件:FrontierSWE v2 发布：20 小时长程任务实测，Fable 5.1 领先逾 24 个百分点(5 条相关)→
「Infra」频道最新
- 论文：LLM 竞价采购平台可省 10%-71% 推理成本 — _onionesque · 2026-10-18
- 560B MoE 塞进 4 台 DGX Spark:Ling 3.1 Flash 用 llama.cpp RPC 跑通 — BerryBlush_Rogers691 · 2026-10-18
- SGLang Summit 赞助商一周从 11 家涨到 36 家 — ying11231 · 2026-10-18
- Oracle CDS 飙至 300bps 创纪录，被称 AI 交易倒下的第一块多米诺 — arthurcolle · 2026-10-18
- MIT 团队实测:agent 编码用量若按 API 计费每月高达 4 万美元 — ChrisRackauckas · 2026-10-18
- 越狱 PS5 跑 llama.cpp:开源 PS5LM 让主机变身家庭本地 LLM 服务器 — wateriscoding · 2026-10-18