Corbenic AI 推出 Galahad:KV 缓存落盘持久化,跨请求与重启复用
MindPsychological140 · reddit · 2026-10-01
Corbenic AI 创始人 Sietse 在 Reddit 发布 Galahad 开源项目 beta:将模型的 KV cache 持久化到磁盘,在同一请求间甚至重启后复用,避免模型重复计算相同内容,降低 GPU 占用。
- 已适配 vLLM、SGLang 和 llama.cpp。
- 针对 agent 场景内置了额外功能,适合 agent 复用上下文。
- 非商用单 GPU 用户免费,接受集群 pilot 与 Kubernetes 场景合作。
项目地址:github.com/corbenicai/galahad
「编程与Agent」频道最新
- 手机上跑 Claude Code 让开发者直呼上瘾：走路都在写代码 — jdluk87 · 2026-10-01
- Runable 推出冷启动外联 Agent:自动找线索打电话发邮件全年无休 — SimplyAnnisa · 2026-10-01
- Git 核心开发者炮轰 Git 3 默认 SHA256：安全表演且多年不可用 — vmg · 2026-10-01
- 开发者实测数月：AI agent 已能驾驭复杂重构与架构演化 — dreamwieber · 2026-10-01
- 资深程序员:说 AI 建不出可维护架构是很 2023 的看法 — dreamwieber · 2026-10-01
- 经济学家:AI 改过的代码会失控,我的解法是设'AI 专属文件夹' — paulnovosad · 2026-10-01