TensorFold 1.2.10 发布:Qwen3.8-27B 在 GB10 上解码提速 57%
AIFlow_ML · x · 2026-11-19
TensorFold 社区发布 1.2.10 版本,推理性能显著提升:
- Qwen3.8-27B 在 GB10 上以 8 路并发、共享 32K prefix 的场景下解码速度快 57%,输出结果与之前一致
- DeepSeek-V4.1 冷启动 prompt 在 M5 Ultra 上快 5–7%
- 新增 background responses、tensorfold launch 与 tensorfold rm 命令
- 在 Metal 上新增 Qwen3-Embedding 和 Unlimited-OCR-2 支持
同时修复了多个 bug,版本更新感谢了大量社区贡献者的硬件测试与反馈。
「Infra」频道最新
- NVIDIA 推 AI 工厂数字孪生:动工前先验证,提升 tokens per watt — luisceze · 2026-11-19
- NYT 调查:新加坡公司 Megaspeed 累计采购超 40 亿美元 Nvidia 芯片 — Gregory_C_Allen · 2026-11-19
- 马斯克:最佳数据中心工人来自 In-N-Out,拆解任务几天即可上手 — yunta_tsai · 2026-11-19
- Model Factory 转发配马斯克名言:真正要紧的是造机器的机器 — eliebakouch · 2026-11-19
- NVIDIA Physical AI 详解:Hyperion 系统选定 Aeva 为参考激光雷达方案 — Leather_Landscape_20 · 2026-11-19
- SpaceX 被称 AI 算力建设最快,称明年将推前沿级模型 — PTrubey · 2026-11-19