决策模型启示:嵌入模型处在被颠覆边缘,检索侧智能仍有巨大空间

adhamelarabawy · x · 2026-10-12

作者以 @typesafeai 的 decision models 为例,指出模型形态(model form factors)的帕累托前沿远未被探索充分——针对特定能力做深思熟虑的取舍,就能在速度、吞吐和可靠性上获得数量级提升,重新打开 computer use 和生产级分类等用例。

他认为嵌入模型正处在被颠覆的边缘:可预计算、表示紧凑(存储约 O(N)、交互约 O(log N)),还可从 (M)LLM 初始化,但即使经过指令微调,查询接口的表达能力仍有大量浪费。没有理由不能像把智能前移进分类那样,把更多智能转移进检索环节。