自适应路由思路：仅在信心不足时启用高算力路由器
Comfortable_Peace175 · reddit · 2026-08-24
- 核心问题：不仅要决定“用哪个 LLM”，还要研究“应该花多少算力来做这个决定”。
- 自适应路由机制：
- 默认使用廉价路由器。
- 若路由器信心不足，再调用更昂贵/高精度的路由器做二次决策。
- 目标是仅在能显著提升决策质量时才增加额外成本和延迟。
- 讨论：作者询问这一“自适应路由器复杂度”方向是否已有研究，或者是否是有意义的创新空白。
「Infra」频道最新
- 小米新芯片单核追平苹果，大核集成 SME2 矩阵加速 — lemire · 2026-08-24
- llama.cpp 文档全新改版，将详解投机解码与智能体 — mervenoyann · 2026-08-24
- 数据中心空置率仅 1%，微软谷歌等已预订至 2028 年 — Beth_Kindig · 2026-08-24
- 澳总理拟明年立法：严管 AI 与数据中心版权及能耗 — nordicinst · 2026-08-24
- 巧用 Qdrant 特性，RAG Token 成本降低 67% — qdrant_engine · 2026-08-24
- MCP 公布未来路线图：支持 HTTP 协议与长时工作流 — _philschmid · 2026-08-24