Siri AI 端侧首层 Skimmer 拆解:纯正则免模型,最快比 LLM 快 20 倍

SumitGup · x · 2026-11-11

itspdfu 拆解了新 Siri AI 的端侧处理第一步「Skimmer」:它用正则表达式把用户请求匹配到工具流,识别常见 query 后确定性选择工具并填充参数,完全不跑 LLM。实测性能:音乐「play」类工具调用低于 120ms,比端侧或 PCC 模型快至 6 倍;「flip coin」等简单工具低于 60ms,快至 20 倍。因为不跑模型,速度跨设备一致且支持离线。Skimmer 处理不了的请求才编译上下文发给端侧/PCC 模型。作者还给出 macOS 上浏览各语言规则文件的路径:/System/Library/PrivateFrameworks/IntelligenceFlowPlannerSupport.framework/.../Enigma.json。

原文链接 →

「模型」频道最新

更多「模型」频道 AI 资讯 →