Qwen 3 30B本地推理破千,Apple端侧AI硬件优势凸显
StefanoGogioso · x · 2026-08-11
一位研究者分享了使用 Qwen3-30B-A3B 微调模型在 Apple M5 Max 笔记本上的运行体验。在批处理下,推理速度可达 1000+ tokens/秒,使许多一年前无法想象的本地工作流成为可能。他称赞 Apple 在消费级本地智能硬件领域处于绝对领先地位,并构筑了极深的护城河。
「Infra」频道最新
- 中国首款国产前道光刻机投产,性能对标 90 年代 ASML — pstAsiatech · 2026-08-11
- 不足10%企业规模化落地AI,算力短缺将长期制约 — BenBajarin · 2026-08-11
- 亚马逊AI算力扩张引争议:或成美国最大气候污染源 — Ars Technica AI · 2026-08-11
- 港大团队突破冯·诺依曼瓶颈,研发极低能耗二维材料 AI 芯片 — YiMaTweets · 2026-08-11
- Blockstream推出原子交换服务,应对AI辅助攻击潮 — RSync25 · 2026-08-11
- RTX 3060 Ti 也能本地跑视频生成:20 分钟出片,8GB 显存够用 — cocktailpeanut · 2026-08-11