从 Qwen3 1.5B 复现 Jev 思想:共享 KV 缓存的并行决策系统
Sam_Witteveen · x · 2026-09-20
博主尝试从零复现 Jev 背后的想法，从 Qwen3 1.5B 小模型起步，构建了使用共享 KV 缓存的并行决策系统，对串行与批量推理进行了基准测试，缓存正确性测试达到 100% 决策一致。帖子以线程形式总结经验教训。
「编程与Agent」频道最新
- 让编码 Agent 自测后端 API:开源 CLI 打包失败现场供其自我修复 — KARYTON618 · 2026-09-20
- OpenEnv 开源项目活跃:社区贡献基建适配、MCP 与 WebSocket 修复 — ben_burtenshaw · 2026-09-20
- Gemma 26B A4B 本地实测：一次过 C++ 编码测试，工具调用却频翻车 — HyperWinX · 2026-09-20
- mitsuhiko 谈智能体编程的共同挫败感：它比看起来更难 — mitsuhiko · 2026-09-20
- 阿拉伯语圈最全 Codex 桌面版教程：从安装到 MCP 实战 55 分钟讲透 — aziz4ai · 2026-09-20
- Stalkr 上线关键词分组,可对比品牌与竞品的社媒声量 — marclou · 2026-09-20