Spring AI 社区推出模型路由示例:按提示词难度自动分级选模型

therealdanvega · x · 2026-09-22

• Dan Vega 发布了一个基于 Spring AI 与社区 TypeSafe AI Starter 的 Spring Boot 示例应用,为每条请求自动挑选合适的 OpenAI 模型。
• 核心思路:不是所有 prompt 都需要最强模型。应用通过 Jev 将 prompt 作为单选题分类到四个层级:luna(问候/简单格式化)、terra(摘要/短函数)、sol(多步推理/跨文件代码)、astra(研究/架构/难题)。
• Jev 返回每个层级的标签、置信度和概率,Controller 据此设置 ChatClient 使用的模型并返回路由决策。默认偏好更便宜的层级,除非 prompt 明确需要更强模型。

原文链接 →

「编程与Agent」频道最新

• 小米 MiMo 团队发布 CodeMIDAS:从代码本身扩展智能体 RL 环境 — _akhaliq · 2026-09-22
• 新研究：浏览器 Agent 仅凭页面与历史即可预测你的下一步操作 — aidangch · 2026-09-22
• 美团发布企业级 Agent 平台 CatPaw,内部已服务 9 万员工、3 万活跃智能体 — bookwormengr · 2026-09-22
• 开发者用 Grok 4.7 用 C 语言写游戏引擎：真的很好用 — elonmusk · 2026-09-22
• 开发者实测：Mimo-v2.6 替换 Opus 接手客户项目，“是个猛兽” — MicahBerkley · 2026-09-22
• Kev 重构至 Qwen3.5,开源小决策模型更新 0.8B/4B/9B 三档 — alexcovo_eth · 2026-09-22

更多「编程与Agent」频道 AI 资讯 →