从 Jev 到循环 Transformer:AI 领域旧理念为何接连回潮
bendee983 · x · 2026-09-26
作者把上周的 Jev、「system one」模型讨论与几周前的 looped transformer 趋势(GPT-6 Astra)放在一起观察,指出 AI 的反复主题是:旧想法隔一段时间就会被重新拾起。
演进脉络:从专用 ML/DL 模型到「语言模型是少样本学习器」(GPT-3),一切皆可 token 化并由自回归 Transformer 处理;再到一切推理模型化、相信规模化解决一切。如今风向又转回小型、专用、非自回归模型,并开始让模型在自身潜空间里通过循环推理换取精度与效率。结论:AI 里没有定论,重访旧理念常能开出新的创新方向。
「模型」频道最新
- Yoav Goldberg 发现前沿模型擅长 Sokoban 类谜题,训练数据成谜 — lukaszkaiser · 2026-09-26
- GPT-6 Astra 实测:初稿骗过 CEO,写作是大升级但有坏习惯 — every · 2026-09-26
- Opus 5.5 高推理档位跑 20 分钟零反馈,用户吐槽没法判断进度 — rms80 · 2026-09-26
- 开源 Kev 决策模型家族:0.8B 到 27B 可本地免费跑分类 — alexcovo_eth · 2026-09-26
- Tev1 0.8B 开源:Mac 本地跑 Jev 式分类器,延迟仅约 50ms — iamrobotbear · 2026-09-26
- Delip Rao:现有 LLM 微调的判定模型难带来真正的评委多样性 — deliprao · 2026-09-26