antirez 谈模型升级:4.0 到 4.1 知识可复用,注意力层全新才行
teortaxesTex · x · 2026-10-21
Redis 作者 antirez 在讨论中解释模型迭代间的迁移成本:从 4.0 到 4.1 这类升级很容易,只要注意力机制端没有出现全新东西,其余部分都可以复用。
teortaxesTex 转发并喊话:既然大模型红利吃到爽,希望之后也能训练小模型——侧面反映社区对开源小模型被头部实验室忽视的不满。
「模型」频道最新
- 实测发现 4-bit 以下开源模型自迭代生成 3D 资产很吃力 — mervenoyann · 2026-10-21
- 研究者用前沿模型 76 分钟挖出首个 Windows 0-day — moyix · 2026-10-21
- 开发者实测:Gemini Argon 分析调试日志优于 Fable 5.1 — ShikharMurty · 2026-10-21
- 用户让 ChatGPT「尖叫」,它陷入无限循环 AAAAHHH 停不下来 — AutomaticScene · 2026-10-21
- 开源新模型 Ornith-1.5-122B 发布:SWE-bench 84.5%,单卡 DGX 可跑 — _akhaliq · 2026-10-21
- qev-0.8B:3.5毫秒决策、1.3GB本地跑的微型模型登顶 — fajfas3 · 2026-10-21