ICML论文:Ekka规模化检测LLM推理栈静默错误

bariskasikci · x · 2026-07-07

论文Ekka聚焦大模型推理栈中极难调试的“静默错误”(silent errors),提出在规模化推理时检测并处理此类错误的方法。该工作将在ICML海报环节展示(Hall A #2405,7月8日下午)。