Baseten 与 Harvey 探讨开源模型长文本后训练优化
baseten · x · 2026-07-23
Baseten 转发了关于 AI 法律平台 Harvey 团队的工程实践分享。Harvey 团队指出，在处理法律领域的长周期任务时，即使是 256k 到 1M 的上下文窗口也往往不够用。
为此，双方团队深入探讨了如何通过 KV cache 压缩来应对这一挑战，并分享了针对长周期任务的数据策略，以及将专业知识有效注入开源模型的最佳实践。
「编程与Agent」频道最新
- Claude 把团队名说成元数据，还一本正经谈无冲突路由 — draginol · 2026-07-23
- Claude 结合 Chromium 和 Playwright MCP 可自动录演示视频 — yenkel · 2026-07-23
- 作者称用 Claude Design 配合 Claude Code 做前端很顺手 — trq212 · 2026-07-23
- 多个 LLM 协作项目里，模型开始重视协作结构本身 — repligate · 2026-07-23
- Blocks 称其 Agent 友好 UI 系统已接近实时生成界面 — round · 2026-07-23
- Codex 还要访问 iTunes，AI agent 又多了个名场面 — KarelDoostrlnck · 2026-07-23