LLM 未来在后训练与自研模型
RihardJarc · x · 2026-07-15
一位前 LLM 实验室员工分享了对未来 LLM 使用方式和 post-training 重要性的看法： - 他认为应用/产品公司和模型提供商正在互相渗透，长期看产品公司可能也要训练自己的模型。 - 训练成本结构已经变化：过去 pre-training 约占 80%，post-training 约 20%；现在更接近 50/50，因此更多公司会考虑做 pre-training。 - 他认为单靠用户私有数据作为护城河被高估；更有价值的是能反映真实使用方式和使用模式的数据。 - 没有自有模型的应用公司会更受制于闭源模型供应商，因为模型公司做产品比产品公司做模型更容易。 - 未来会更依赖 prompt 路由到不同模型，很多任务会由更小、更便宜的模型承担，不一定都需要前沿大模型。