从 GPT-2 到 KimiK3:这篇文章说不只是尺度变大
algo_diver · x · 2026-07-29
- 一篇题为 《From GPT2 to Kimi3, Explained》 的文章/线程,试图解释从 GPT-2(2019)到 Kimi3(2026)的模型演进。
- 作者用一个很直观的对比指出:22,580 个 GPT-2 规模的模型 才相当于一个 KimiK3,强调过去七年模型尺度的巨大膨胀。
- 文章的核心问题不是“单纯变大而已”吗,还是还有别的机制与结构变化,值得去看完整 worklog。
「模型」频道最新
- Grok 4.5 在新 HighWalk 基准上拿下第一 — elonmusk · 2026-07-29
- Laguna s2.1上线一周后仍被指循环失控、工具调用翻车 — Possible_Grocery8079 · 2026-07-29
- 用户称 GPT-5.6 Pro 像代码审查和抓虫终结者 — dejavucoder · 2026-07-29
- 泄露视频称 Gemini 4 或临近发布,展示物理与动画演示 — WorldofAI · 2026-07-29
- 用户称 Anthropic Opus 5 个性化后变得几乎不可读 — himanshustwts · 2026-07-29
- Scobleizer 称 Grok 4.5 是当前最强编程模型 — Scobleizer · 2026-07-29