LLM 为何搞不定工业运维
AI Engineer · youtube · 2026-07-13
这场分享讨论了一个核心判断：**不能把组合式工程问题，直接交给 next-token 预测模型来解决**。团队把先进 LLM 接到拥有数万、乃至 50 万级传感器的工业与 AI 工厂实时运维系统中，用于根因分析、告警分诊和运行决策，结果发现通用 LLM 与确定性工程系统之间存在根本性的架构失配。 文中总结了三类失败模式： - **Topology Trap**：向量表示不理解管线、电路和物理因果，字符串形式的传感器名并不等于真实拓扑关系。 - **Illusion of Scale**：小规模时把传感器数据直接塞进上下文还能工作，但到 50 万级时会失效，注意力衰减、关键异常被淹没、延迟也会变得不可用。 - **Repetition Kill Switch**：工业标签命名高度重复，模型可能因为重复惩罚把正确数据误判成“退化循环”，甚至直接停止。 他们主张不要沉迷提示词技巧，而应采用更可靠的混合架构：**语义本体 + 确定性查询系统 + 结构化综合层 + 面向运维的 LLM 编排**。目标是让 AI 在真实物理系统中可靠工作，而不是只会做语义搜索。