Inkling 2 Small 预训练仅 1/6 时长却表现强劲，引发业内猜想
georgejrjrjr · x · 2026-11-12
作者提出一个反直觉问题:Inkling 2 Small 的预训练量明显偏少,却依然是个强模型。
- 传统解释认为该模型远未达到饱和,预训练仅占总训练时长约 1/6,大量高质量 token 尚未用尽
- 引用 Dwarkesh Patel 的观点:Inkling 2 采用普通架构、中等规模、很小的 token 预算,却仍有竞争力,这可能是更强的证据
- 作者在征求业界对「预训练量为何如此少」的主流假说
注:该模型信息未经官方证实,属圈内讨论与推测。
「漫话AGI」频道最新
- Ethan Mollick 感慨：「和文档对话」的 RAG 热潮已成一年的旧梦 — emollick · 2026-11-12
- Anthropic 五年如一日:「AI 赢者通吃，我们要造神」从未变过 — menhguin · 2026-11-12
- Peter Diamandis:留给实现「安全超级智能」的时间只剩 6-18 个月 — PeterDiamandis · 2026-11-12
- AI 圈观察：人员规模不再是野心的代名词 — signulll · 2026-11-12
- AI 系统三天证明量子计算猜想,Jack Clark 直言奇点已现雏形 — _arohan_ · 2026-11-12
- 研究称美与友谊等抽象概念锚定于感知运动与社交脑系统 — AnnaCiaunica · 2026-11-12