本地嵌入模型比本地大模型更实用
East-Engineering-653 · reddit · 2026-07-10
作者认为,如果已经付费使用大模型服务,本地运行大模型的实际收益正在下降;相比之下,本地运行 embedding 和 reranker 更有价值,因为它们更适合做 LLM 记忆系统。
East-Engineering-653 · reddit · 2026-07-10
作者认为,如果已经付费使用大模型服务,本地运行大模型的实际收益正在下降;相比之下,本地运行 embedding 和 reranker 更有价值,因为它们更适合做 LLM 记忆系统。