开源 LLMxRay:一行命令给本地 LLM 装上实时可观测性
GuruCsharp · reddit · 2026-10-04
- 开发者发布开源工具 LLMxRay,针对本地/自托管 LLM(Ollama、本地推理服务、agent 框架)流量不可见的痛点,提供 100% 本地运行的观测与分析引擎,npx llmxray 一行启动,数据不出本地。
- 核心能力:
- 工具/函数调用遥测:实时拦截 agent 的工具调用,检查入参出参、调用频率与错误率,分析多步循环定位 agent 卡死或死循环。
- 请求与延迟分析:拆解 TTFT、prefill 与解码速度,监控 token 用量、吞吐与各模型利用率趋势。
- 隐私优先:全部在本地执行,提供 localhost:3000 仪表盘用于可视化调试。
- 项目地址:github.com/LogneBudo/llmxray,文档在 lognebudo.github.io/llmxray。
「编程与Agent」频道最新
- 博主用 Agent 连办美签申根签加签，签证材料全交给 AI — AlchainHust · 2026-10-04
- 6 个 Claude 加 3 个 Codex 订阅怎么用？theo 微醺出教程 — 0xkarasy · 2026-10-04
- AI 编码模型狂造游戏 mashup：《超级马力欧64》被搬进《光环》 — mark_k · 2026-10-04
- Astra 一把过零资产生成自定义引擎游戏，开发者直呼惊喜 — Dimillian · 2026-10-04
- AI 交易 agent 项目公布 Q4 路线图:自研模型与链上工具包 — DionysianAgent · 2026-10-04
- 一个月做出能拿到 AI RAG 工程师 offer 的作品集项目 — ashishllm · 2026-10-04