本地 AI 日报：Mac Studio 跑 DeepSeek-V4.1-Flash 达 65.7 tok/s
AIFlow_ML · x · 2026-11-11
Local AI Daily 11 月 11 日期，汇总近期本地推理动态并逐条标注数据来源（MEASURED / VENDOR-CLAIM / ESTIMATE）：
- TensorFold 1.2.6 发布，主打多 agent 并发场景的 prompt cache：官方宣称在 M3 Ultra 上将后续请求中位 TTFT 从 546 秒降到 15.9 秒，GB10 上从 105 秒降到 25.8 秒。
- 一台 512 GB 内存的 Mac Studio M5 Ultra 以 128K 上下文跑官方 MIT 协议的 DeepSeek-V4.1-Flash，实测 65.7 tok/s。
- 还涵盖单台 Spark 跑 GLM-5.3-Flash、DSpine 实地数据，以及对「5090 跑出约 700 tok/s」说法的打假核查。
对关注本地/端侧部署与推理性能的人是一份带来源标注的高密度情报。
「Infra」频道最新
- 网友提议数据中心建地下：余热融雪、地面还作公园 — MatthewChang · 2026-11-11
- SpaceX 拟在得州 Starbase 建 240 亿美元 AI 数据中心与天然气电厂 — Polymarket · 2026-11-11
- 微软 Auto SR 正式上线 Xbox Ally X,掌机模式支持 1080p 与 120fps — tomwarren · 2026-11-11
- Gemini 4 Carbon 登陆 Databricks,企业文档测试得分 66.7% — matei_zaharia · 2026-11-11
- Anthropic:让 Claude 移植内核，3 天跑通 AMD GPU — scottleibrand · 2026-11-11
- Kimi K3.1 Pro Highspeed 登陆 Bedrock:速度提升 2-3 倍、百万 token 上下文 — AWS ML Blog · 2026-11-11