HN 讨论:不自己跑 LLM 代理,你根本不知道发生了什么
amrrs · hn · 2026-10-19
HN 讨论帖,配套一篇博文,主张开发者应自建 LLM 代理网关来观测实际用量。核心论点:只依赖各厂商官方后台,你无法看清真实 token 消耗、费用分布、失败请求与模型行为差异;自己跑一层 proxy 才能统一记录日志、做路由与成本核算。讨论围绕自托管 LiteLLM 之类的网关方案与观测实践展开。
「编程与Agent」频道最新
- Decisions API 正式 GA,agent 反馈循环全自动剪辑云视频 — dkundel · 2026-10-23
- 50+ 免费 AI Agent 学习资源合集：视频与仓库一站打包 — ifioknkem · 2026-10-23
- 自封「全网最佳」的免费 AI Agent 资源库引围观 — ifioknkem · 2026-10-23
- Vercel 推出免注册部署：拖拽文件到首页即得线上 URL — steren · 2026-10-23
- 5 个 Claude Code 会话经 MCP 互发邮件，组队攻破多品牌网络摄像头 — doodlestein · 2026-10-23
- Vercel 上线 vercel deploy --temporary,可临时部署后自动清理 — cramforce · 2026-10-23