Unsloth 携手 AMD:XDNA 2 NPU 首次支持 100+ Agent 应用本地推理
danielhanchen · x · 2026-11-19
Unsloth 与 AMD 合作,为 AMD XDNA 2 NPU 带来本地模型推理支持,首次通过 Unsloth Desktop 让 100+ 兼容的 agentic AI 应用用上 NPU 加速。
- NPU 每 token 生成能耗比传统 GPU 低 2–4 倍
- 支持 Ryzen AI 300(Strix Point/Krackan Point)、Ryzen AI Max(Strix Halo)、Ryzen AI 400(Gorgon Point)及未来 NPU 设备
- 功能包括:NPU 上流式运行 LLM(支持推理、视觉、工具、skills、MCP、网页搜索、文档对话与本地文件编码);通过 Unsloth API endpoint 把应用/脚本接到 NPU 模型;将本地推理卸载到 NPU 以释放其他处理器内存
- 安装后模型选择器自动显示 NPU 区块,可同时使用 NPU 侧模型(如 Qwen、Gemma)与 GPU 侧模型
「编程与Agent」频道最新
- Qwen3.8-27B 加 LoRA:SWE-bench Pro 从 35.3% 升至 51%,开源威胁 Claude — yb2698 · 2026-11-19
- Mozilla 用 Claude 测 Firefox 千万行代码,修 400+ 安全 bug — claudeai · 2026-11-19
- 科研用 AI 心法:先手动几次再交出去,小步试错 — jmschreiber91 · 2026-11-19
- 开源 SDK akyn-ai:5 分钟把任意数据源变成 MCP 服务器 — adnan_hashmi · 2026-11-19
- Zerodha 开源 Blobasaur:分片 SQLite 跑赢专用存储搞定 agent 状态 — petrusenko_max · 2026-11-19
- 工程师谈 AI 时代技能取舍:先手动做关键事,再放心交给智能体 — jmschreiber91 · 2026-11-19