Windows 现场 demo:编码任务被自动路由到本地模型,llama.cpp 已接入 Windows ML
ryanshrout · x · 2026-10-08
AMD 的 Ryan Shrout 在直播围观微软与 NVIDIA、Satya Nadella、Jensen Huang 同台的活动 demo,实时记录了两个细节:
- 演示中一个编码任务在 AUTO 模式下被路由到本地模型,截图可见 GPU 被拉起——说明混合云/端路由已经能自动判断任务该在端上跑
- 官方确认 llama.cpp 已接入 Windows ML,开源推理栈与 Windows 的端侧 AI 框架打通
- 后续 demo 还展示了更复杂的 prompt:部分内容交给 GPT-6-Luna 处理,同时并行启动本地 agentic 任务
所属事件:微软展示 Windows 本地 AI 推理，NVIDIA 混合方案亮相(3 条相关)→
「编程与Agent」频道最新
- OpenAI Dots 上线一周实测:省注意力神器,但权限体验仍糟糕 — danshipper · 2026-10-08
- 给应用加 MCP 服务器，长尾功能一次全解锁 — tristanbob · 2026-10-08
- 教授用 Claude 写的 paperpush 自动填期刊投稿表，从此告别表单地狱 — lpachter · 2026-10-08
- 「LGTM（也许不是）」：讽刺视频警示看不懂生产代码的 AI 开发风险 — elie · 2026-10-08
- 差一次工具调用就能发 PR，开发者撞上会话限额 — haydendevs · 2026-10-08
- 开发者用 OpenAI Decisions API 做手势识别,精度与速度双超旧方案 — OpenAIDevs · 2026-10-08