企业AI落地卡在评测和编排
arjunrajlab · x · 2026-07-17
这条引用帖总结了企业 AI 落地的三大难点：**评测、系统编排、人才**。 - **Evals**：企业往往说不清自己的真实用例，也很难把目标写成离线/在线评测；评测既要覆盖业务目标，也要帮助在 **质量-成本-延迟** 之间选模型。 - **Harness**：真正难的不是聊天，而是要有一套独立于模型本身的系统，负责 **路由、多智能体编排、上下文管理、工具调用、记忆** 等能力。 - **Talent**：能把这些基础设施搭出来的人非常稀缺。作者认为这才是企业跨过“基础聊天机器人”阶段的关键瓶颈。 引用的原话进一步指出：目前多数企业仍停留在“**80% 单轮、半确定性、带大量护栏或人工介入**”的场景，距离大规模采用更复杂的自定义模型还有距离；而一旦进入多智能体和上下文保持场景，模型可移植性会下降，企业必须持续更新自己的评测和系统结构。