llama.cpp 登上微软 Windows 发布会舞台,Windows ML 实验性支持 GGUF 本地运行
ggerganov · x · 2026-10-08
- 微软在 Windows AI 开发活动上宣布:Windows ML 新增实验性 llama.cpp 支持,可通过新的任务专用 API 在本地直接运行 GGUF 模型;面向需要更细粒度控制的开发者,Windows 原生 Runtime API 也进入预览。
- 同批更新的还有 PyTorch、Triton 等开源项目在 Windows 上的支持,并搭配搭载 NVIDIA RTX Spark 的新一代 Windows PC(如 Surface Laptop Ultra)。
- llama.cpp 作者 ggerganov 转发庆祝:软硬件栈终于合流,社区多年的努力正在兑现,期待更多用户拥抱本地 AI。
所属事件:llama.cpp 登上微软 Windows 发布会舞台(3 条相关)→
「编程与Agent」频道最新
- Replit 桌面版预览上线：本地沙盒运行，联合微软与英伟达主打安全 — amasad · 2026-10-08
- AI 架构师 vs AI 工程师：企业落地最易混淆的分工 — DavidLinthicum · 2026-10-08
- Anthropic 把 Computer Use 工具集内置进 Claude Python 与 TS SDK — ClaudeDevs · 2026-10-08
- 让 LLM 引用 AEO/GEO 最佳实践审查代码，1 小时 48 任务见效 — MicahBerkley · 2026-10-08
- Wake 推出多人终端:多个编码 Agent 可跨工具协作同一目标 — prasannaalahoti · 2026-10-08
- Rust 级联路由器:简单请求拦截在生成前,p99 判定延迟低于 5ms — forestmars · 2026-10-08