开发者吐槽:Agent 架构被 KV cache 绑架,盼推理专用芯片
dbreunig · x · 2026-09-23
dbreunig 表达一个有实质的技术观点:当前 agent 架构大量围绕 KV cache 的限制来设计,期待出现面向推理优化的高效模型和芯片,让开发者摆脱这种约束。
「编程与Agent」频道最新
- 开源 MCP 服务器实现在 IDE 内管理 GitHub Gist — modelcontextprotocol · 2026-09-23
- Stripe 推出 WebMCP，Agent 完成支付省 42% token — jeff_weinstein · 2026-09-23
- Harvey 创始人：别靠「租来的智能」扩张，自建模型、harness 与 eval 才是护城河 — dair_ai · 2026-09-23
- Swarms 市场支持从私有 GitHub 仓库导入并上架售卖智能体 — KyeGomezB · 2026-09-23
- 让 Opus 5 写交接提示词，再用 Opus 5.5 杀掉旧 worker — doodlestein · 2026-09-23
- AssemblyAI HTTP tools 实战:免 WebSocket 部署可预约语音 Agent — AssemblyAI · 2026-09-23