牛津剑桥团队警告 model collapse：AI 训练在 AI 文本上会产生不可逆缺陷
AlexTensor · x · 2026-09-27
牛津与剑桥的研究人员提出的“model collapse”（模型坍塌）概念再被广泛转发：随着生成式 AI 产出的文本迅速充斥互联网，未来的大模型（如 gpt-n）若不加区分地在含 AI 生成内容的数据上训练，会出现“不可逆缺陷”——模型丢失原始内容分布的“尾部”，即逐渐遗忘创造性、边缘化和独特的内容。开发者 John D. Cook 戏称之为“相信自己的通稿”“吸自己的货”。
- 核心风险：网络生态正在变化，AI 生成文本占比持续上升
- 后果：模型分布尾部（创意与稀有信息）被抹平，输出趋同
- John D. Cook 的转述式点评让这个老话题再次传播
「研究」频道最新
- 新采样方法 CNS 给扩散模型注入彩色噪声,显著改善 FID — serrjoa · 2026-09-27
- 学者预测：数月内投稿前不用 AI 验证证明将成「不当行为」 — RexDouglass · 2026-09-27
- JevBench 评测者：多数模型输在设置与校准等低级失误 — airesearch12 · 2026-09-27
- 「数学实际上已死」:新文呼应 Daniel Litt 对 AI 时代数学未来的判断 — burny_tech · 2026-09-27
- ForecastingCo 首篇论文:教 Transformer 处理真实时序数据做预测 — fpedregosa · 2026-09-27
- 研究:预训练 LLM 微调后可做侧信道攻击,12 条迹即破解 AES 密钥 — chaumian · 2026-09-27