重磅预告：无需反向传播，零阶优化直接预训练 Transformer
teortaxesTex · x · 2026-09-29
@industriaalist 发文宣称：「我们已经搞清楚如何用零阶优化（zeroth-order optimization）、完全不使用反向传播来预训练 Transformer」。其表示这一结果表明优化研究领域的许多核心假设「完全是错的」，论文即将发布（paper out soon）。该说法尚无论文佐证，属于未证实的前沿预告，@teortaxesTex 转发时仅回复了一句「what」表达震惊。
「模型」频道最新
- Emulate-1 模型宣称过 Pangram 检测,输出被判为人类写作 — alejandroll10 · 2026-09-29
- AI 安全界激辩思维链监控:读到日记的模型可能学会写假日记 — repligate · 2026-09-29
- Swift 1.5 + HyperQwen：RTX 3090 上任务耗时降 37%、跑出 100+ tok/s — KingGongzilla · 2026-09-29
- Anthropic 员工提醒:别把 Sonnet 拉满 effort,该用 Opus — edwinarbus · 2026-09-29
- Claude 官方再晒 Sonnet 5.5 实验:同一 prompt 弹球物理对比测试 — claudeai · 2026-09-29
- 对比图:Sonnet 5.5 各档努力度都有更便宜的 Sol/Opus 替代 — OnAGoat · 2026-09-29