Periodic 创始人 CoLM 演讲：自训模型终将跨越前沿模型拐点

heghbalz · x · 2026-10-18

agarwl 分享了其在 CoLM 大会演讲的幻灯片。核心问题「十亿美元之问」：用前沿模型加自家 harness，还是训练自己的模型？幻灯片以测试时性能随上下文长度的曲线展示，自训模型（our model + training）在某个上下文规模后会越过「前沿模型 + harness」的交叉点（crossover），而完全无访问权限的前沿模型加训练则是天花板。

另一张图展示了其「持续学习」方案：实验室数据每天增长，每隔 N 周用截至目前测量过的全部数据重训一次（模型 v1→v5），这是一种非测试时的一次持续学习形态。演讲内容涉及其公司 Periodic 的工作方向。