训练不起前沿模型,开源 AI 能否靠「小模型组合」追赶?
WebAssemblyMan · reddit · 2026-09-24
作者提出一个开源 AI 的结构性难题与思路:前沿模型训练所需的算力和数据是社区开发者不可能承担的,Linux 式「小内核长成巨大生态」的模式在 AI 上未必成立,因为最难的一步(训练)恰恰无法靠众包叠加解决。
- 作者设想换一条路:不追求单个开源模型追平前沿,而是构建 一组小型专家模型(coding + vision + reasoning + search + tools),通过 composition 加 verifier 组合,甚至把人类专家反馈纳入这一层
- MoE/MoA 已是这类思路的雏形,但作者想探讨更普遍的问题:组合能否成为开源 AI 的扩展方式?
- 开放问题:单个大前沿模型是否存在组合无法复现的能力?这个世界里的「Linux 内核」等价物是什么?
「漫话AGI」频道最新
- 研究者论开源模型风险:GPU 集中才是权力集中真正的来源 — davidmanheim · 2026-09-24
- 网友预言:数十年后数学与科研将受制于算力成本 — miniapeur · 2026-09-24
- AI 驱动增长的最大阻碍:现有企业难以现代化 — chris_j_paxton · 2026-09-24
- 哲学家质疑 AP 风格指南裁决 LLM 有无信念,建议雇个哲学家 — dioscuri · 2026-09-24
- OpenAI 爬虫澳洲政府数据风波:法律学者谈 AI agent 责任空白 — dhadfieldmenell · 2026-09-24
- Redis 作者 antirez 寄语年轻程序员:拥抱 AI,做证据驱动的职业 — antirez · 2026-09-24