推理才是核心:测试时算力成焦点
jon_durbin · x · 2026-07-07
观点认为推理(inference)已成为AI的全部:无论微调、RL、预训练还是预测模型,没有推理就无法使用。当前工具链几乎只聚焦测试时算力(test-time compute),而非追求更优基础模型。 同时推理效率仍需提升。作者肯定DFlash/DSpark等方法的贡献,但强调真正需要的是算法与架构层面的突破,而不是事后打补丁式的附加优化。数据管线、合成数据增强等都以推理为前提,使用agent、做RL同样离不开推理。