3 亿参数模型该赢下一条工作流，而不是拼大而全
Downtown_Length3457 · reddit · 2026-07-21
作者在思考：如果只有一个 3 亿参数模型，应该把它优化成什么，才能在单一场景里稳定胜过更大的 20 亿到 200 亿参数模型。
他列出的候选方向包括：窄领域代码生成、结构化信息抽取、文档分类、工作流/智能体规划、日志分析等。重点不是刷榜，而是看在延迟、稳定性、部署约束下，哪些真实工作流最适合小模型。
「Infra」频道最新
- 新论文提出 PoLar：动态跳过或循环 LLM 层级以优化推理 — ttkciar · 2026-07-22
- SK海力士CEO：明年将是行业史上供应最紧张的一年 — Beth_Kindig · 2026-07-22
- Tabul AI 推出 Metal TreeSHAP，加速 Apple silicon 上的 Shapley 计算 — Scobleizer · 2026-07-22
- 分析称五大科技巨头隐匿 1.6 万亿美元 AI 债务 — arto · 2026-07-22
- DeepSeek-V4-Flash 单卡 B300 批量仅 770 tok/s — Moreh · 2026-07-22
- NVIDIA 开始交付 102.4 Tbps 的 Spectrum-6 交换机 — nvidia · 2026-07-22