Millwright 推出 Rust 自托管 LLM 路由器，面向智能体与成本控制
AndrewLiu96 · hn · 2026-07-23
HN 上有人发布了 Millwright：一个用 Rust 写成、可自托管的 LLM router，目标是降低成本、提升透明度并增强性能，尤其适合 GenAI 工作负载和编码智能体。
- 这项目试图替代 OpenRouter、Ramp Router、Vercel AI Gateway 这类托管路由服务，强调自建可控。
- 已支持 OpenAI-compatible APIs、Anthropic、Amazon Bedrock，并提供 Chat Completions / Anthropic Messages 的协议转换。
- 路由层支持按策略划分模型角色（cheap / mid / frontier）、优先选择最便宜且健康的路径、会话缓存亲和、团队级花费统计、请求追踪与成本分析。
- 可靠性设计包括 failover、circuit breaker、timeout、并发限制。
- 部署方式尽量轻量：单个 Rust 二进制，支持 Docker、SQLite 或 PostgreSQL。
- 作者还提到，项目部分代码是由 AI 编码智能体协助完成的。
「编程与Agent」频道最新
- 开源 Agent Skill 2.3k 星:生成 MVP 蓝图并审计重构 agentic harness — tom_doerr · 2026-09-11
- Cognition SWE-2 用 KKT 对偶优化长度惩罚，一次 RL 推移 Pareto 曲线 — YouJiacheng · 2026-09-11
- 首届 Three.js 大会落地巴黎，AI 正缩短从想法到原型的距离 — OdinLovis · 2026-09-11
- 观点：Agent 真正的瓶颈是企业数据工程能力 — dhruv2038 · 2026-09-11
- 实测戳破 RTK 省钱神话:token 省了,账单分文未降 — Bartaseth · 2026-09-11
- GPT-6 Astra 用时 44 小时通关含敌人 Factorio,API 成本约 4500 美元 — liminal_bardo · 2026-09-11