推算 Intel Razor Lake AX 本地跑 27B 密集模型可达 46 TPS
Terminator857 · reddit · 2026-10-18
Reddit 用户基于规格推算:Intel 计划中的 Razor Lake-AX 平台(宣称 700 TOPS)约是 NVIDIA Jetson AGX Orin(275 TOPS)的 2.5 倍,照此折算在 27B 密集模型上可达约 46 TPS(Jetson 约 18 TPS)。这一速度约为 Strix Halo 的两倍,而 AMD 预计翻倍的 Medusa Halo 要到 2027 年底才推出。作者据此认为 Intel 这款消费级平台在本地大模型推理上可能领先一截。注意这属于基于参数的粗略估算,非实测数据。
「Infra」频道最新
- Rust 版 Git 服务器基于 S3 跑出每秒 7600+ 并发推送 — blaizedsouza · 2026-10-18
- 五台设备拼出大 MoE 模型:37 tok/s 跑 60k 上下文 — StayLameBro · 2026-10-18
- Ollama 美国节点即将上线,DeepSeek-V4.1-Flash-1017 将可直连 — gaganghotra_ · 2026-10-18
- Intel Arc A380 上 43 分钟视频转 AV1 仅需 2 分半,体积减 77% — haydendevs · 2026-10-18
- NYT:CoreWeave 财务模式被类比 WeWork,AI 借贷隐忧浮现 — SumitGup · 2026-10-18
- 内存 32G 升 64G:单张 4090 跑 Qwen 4-bit 量化,解码 90+ t/s — Distinct-Pie2389 · 2026-10-18