gradient descent 终局论:万亿 token 后模型自己成了优化器
DimitrisPapail · x · 2026-11-03
Dimitris Papail 发了一句耐人寻味的观察:经过数万亿 token 的梯度下降,模型最终收敛为一个不再需要梯度的优化器。这条推文以悖论式一句话概括了「模型学会自我改进」的前沿想象,在 X 上引发共鸣。
「Fun」频道最新
- AI 教授劝退读博金句:「你穷尽其他所有选择了吗?」 — dioscuri · 2026-11-03
- AI 生成 4 分钟版 Don't Stop Believin',3 分钟才唱到副歌 — docmilanfar · 2026-11-03
- 登山者用 AI 判断落脚点,挑最安全的踩踏位置 — theshawwn · 2026-11-03
- Gemini 又现出圈回复,研究者感叹「对齐很复杂」 — vedantmisra · 2026-11-03
- 独立研究者哀叹:好 GPU 全在涨价,循环实验要跑不起了 — scaling01 · 2026-11-03
- 「最近的日子」:一张图道尽当代 AI 从业者生存状态 — nischay_twt · 2026-11-03