开源工具 Giraffe：检测 LLM 服务配置变更后负载是否照常扛得住
ImmediateBig8479 · reddit · 2026-10-26
开发者发布了开源工具 Giraffe（github.com/0dust/giraffe），解决一个常见痛点：当你调整 batching 参数、升级推理服务器或换模型时，endpoint 仍能回答 prompt，但未必还能正常承载你的工作负载。Giraffe 会对现有的 OpenAI 兼容 LLM endpoint 跑测试，并与保存的基线结果对比，检查项包括：
- 负载下的响应时间与流式输出卡顿
- 答案正确性与预期值比对
- 结构化 JSON 输出与 tool-call 行为
- 长 prompt 到来时短请求的表现
提供 CLI 和本地浏览器 UI，作者正在招募 alpha 测试者，适合自托管/本地部署 LLM 的团队用来做服务变更回归测试。
「编程与Agent」频道最新
- Colab 也有 MCP 了：AI Agent 可直接操作 Notebook — helloiamleonie · 2026-10-26
- 开源社交管理工具 Postiz 走红：接入 AI Agent 自动发帖 — abhishek__AI · 2026-10-26
- Ben Thompson：创作变免费后赢家都在变小，AI 软件是第三次浪潮 — tushaarmehtaa · 2026-10-26
- 个人智能体怎么分级？一文对照国内外六套分级尺子 — sujingshen · 2026-10-26
- 砍掉向量数据库换 SQLite BM25,多智能体架构重建的三大教训 — OpenComplaint524 · 2026-10-26
- AI 咨询师忠告：再炫的 agent 架构也要先拿 evals 说话 — ziv_ravid · 2026-10-26