工程师观点：检索与长上下文是同一技术的两面

Antoine Chaffin 提出关于模型架构的反向思路：与其从零构建长上下文模型，不如从现有完整 LLM 出发逐层剥离组件，观察可用性变化，这可能有助于找到比当前方案更优的架构权衡。他还指出，检索与长上下文生成模型本质上是同一枚硬币的两面，区别仅在于预计算和推理预算之间的权衡。

2026-08-21 ~ 2026-08-21 · 2 条相关