定制模型从 30B 起步:单卡能跑、支持 LoRA

ziv_ravid · x · 2026-11-20

Ziv Ravid 长帖第 11-12 条:各种定制场景的共同思路是,用比巨头模型更小更高效的模型在自己的数据上训练。如果要 LLM,建议从 30B 起步——单张 GPU 即可运行,也支持 LoRA 微调。此外还有专攻 agentic 任务的小模型,任务集有限的 agent 可以交给它们处理。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →