Sebastian Raschka 整理 118 个 LLM 架构画廊，覆盖上月 10 个开源新模型
rasbt · x · 2026-11-03
Sebastian Raschka 盘点了过去一个月（他称为「Open October」）的 10 个开源 LLM 架构发布，包括 Kolibri-1 (78B，GQA+SWA)、Ling 3.1 Flash (560B，Kimi Delta Attention)、采用 gated MLA 的模型等，并上线了持续的 LLM Architecture Gallery 项目：
- 收录 118 个纯文本 LLM/骨干架构，含架构图、发布日期、注意力机制、decoder 类型与事实卡
- 支持任意两模型架构 diff 对比（如 DeepSeek V3.2 vs GLM-5 (744B)）
- 提供「Memory calculator」显存计算器和可打印海报版下载
- 覆盖 Qwen3、Kimi K2、GLM-4.7、MiniMax M2、OLMo 3、GPT-OSS 等主流开源模型
开源可提 issue 修正，适合作为现代 LLM 架构的速查参考。
所属事件:Raschka盘点10月开源LLM：一个月涌现10种新架构(2 条相关)→
「模型」频道最新
- LlamaIndex 17 项小优化叠加，OCRia-1 单卡 B200 生成提速近 10 倍 — llama_index · 2026-11-04
- 4B 开源音频决策模型 Smaug 登顶，音频得分超 Gemini API — bindureddy · 2026-11-04
- Reddit 求账：三个 ChatGPT Plus 账号要不要换成 Claude Pro 或升级 Pro — Invalid-Function · 2026-11-04
- Reddit 热帖：Gemini 4 Argon 在新 Agent 基准上逼近 Claude 与 GPT-6 — Ok_Concept4102 · 2026-11-04
- Ramp 数据：Google 模型缓存 token 占比不足对手一半，Agent 使用落后 — Sufficient-Bat-9880 · 2026-11-04
- 谷歌 AI 长对话失效：只回复「没有可用结果」错误提示 — batimfan4ever · 2026-11-04