Sentdex:本地跑了 40 亿 token,GLM 5.3 Flash 成其最常用本地模型
Sentdex · x · 2026-09-29
知名 ML YouTuber Sentdex 表示已在本地用 GLM 5.3 Flash 处理超过 40 亿 token,称这是他有史以来用得最多的本地模型。来自重度本地部署用户的真实用量背书,对端侧/本地推理生态是个积极信号。
「Infra」频道最新
- 越狱PS4直连2013年GPU跑9B开源模型,速度达43 tokens/s — AIFlow_ML · 2026-11-16
- Mobile AI Factory:agent 自动为你的手机造专用小模型,GPU 时间省 19 倍 — pmttyji · 2026-11-16
- Stratechery 虚构讣告:假如黄仁勋 2026 年卸任英伟达 — Gregory_C_Allen · 2026-11-16
- vLLM 单 GB300 机架跑 DeepSeek V4.1 Flash 达 954K tokens/s,每小时收入 39 美元 — bookwormengr · 2026-11-16
- 博主测算:Colossus 2 的 120 万块 B200 年推理产出可达 4000 亿美元 — bookwormengr · 2026-11-16
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16