研究揭示用自生成文本做测试时训练会系统性损害模型
KAUST · hf · 2026-10-06
测试时训练(TTT)让模型在推理时把信息写进权重,但用模型自己的输出做训练会引发一个反馈循环:每次更新都改变了生成下一个训练样本的模型。作者系统分解了这种长期自适应的失效机制:
- 在 128K token 流上,保留生成文本的更新会损害模型对独立人类文本的预测,且在三个 TTT-E2E 配置(125M/760M/3B)和对 Qwen3-4B 用 Adam 更新时均复现
- 用冻结模型生成训练块(Fixed Generation)可消除 98% 以上的损害;Recorded Replay 把「读退化文本」与「在其上更新」的损失分开;单步对比显示更新虽更好预测自身来源,却更差预测新真实文本
- 该代价在闭环自适应后放大,少数轨迹造成大部分大失败
- 提出 Settlement:在提交更新前先在独立真实文本上评估候选状态,可将端点损失差距压到 ±0.07 nats 同时保留真实文本上的自适应
结论:写本身不是问题,问题在于「用自己的更新生成自己的训练数据」;建议在保留更新前先检查对独立证据的预测。
「研究」频道最新
- LMU 研究：人类愿承认 AI「有意识觉知」却拒绝给它「意识」 — MacrinePhD · 2026-10-06
- Cohere 发布 Tiny Aya 多语言小模型家族，支持 70 余种语言 — Cohere_Labs · 2026-10-06
- 当 AI 改写 O(n²):优雅数学定理会被 LLM 逐一打破吗 — teortaxesTex · 2026-10-06
- ETH 团队 AME-2 四足步态论文被 TRO 接收,开源 G1 训练代码库 — ChongZzZhang · 2026-10-06
- 0.8B 模型闭式权重手术跑赢 2B 模型，ARC-Challenge 达 42.15% 零反向传播 — AdventurousTwo6445 · 2026-10-06
- MIT 团队发布科学任务分类法:覆盖 232 子领域、20.8 万项任务 — JMateosGarcia · 2026-10-06