François Chollet：测试时训练是纯粹的深度学习范式

fchollet · x · 2026-08-13

François Chollet 深入探讨了测试时计算（test-time compute）的两种主要范式。他指出，目前主流的做法是利用自然语言进行推理，其计算本质类似于测试时搜索（有时会结合验证器或评分器）。

另一种重要途径则是测试时训练（test-time training）。Chollet 强调，这是唯一一种“纯粹”的深度学习测试时适应方法，因为它在连续的潜在空间（latent space）中进行自适应调整，而不是像神经符号方法那样在离散的符号空间中操作。他认为梯度是非常宝贵的信号，在测试时没有理由不去利用它。