家用设备一个月跑出 10 亿 token,主力是 Qwen3.8-Flash
natesiggard · x · 2026-11-11
开发者 natesiggard 展示其家中基于 Actual(actualinc)的推理设备首月成绩单:累计服务超 10 亿 token、11 万次请求。截图显示其中 Qwen3.8-Flash-Next-NV 贡献约 10.01 亿 token(读 958M、写 42.8M),另有 Qwen3.8-27b 承担少量请求;计数由 ROBIE 引擎统计并备份到树莓派上。这是一个端侧/本地部署真实跑量的有趣案例。
所属事件:开发者自建家用推理设备月处理破 10 亿 token(2 条相关)→
「Infra」频道最新
- 爆料称 DeepSeek 拟在华为昇腾 950 上预训练 2T 参数 V5，或延至 2027 — teortaxesTex · 2026-11-11
- WSJ:孙正义狂扫燃气轮机产能预订,结果订多了 — mattwbaker · 2026-11-11
- FT：商务部搁置将 Megaspeed 列入出口黑名单，四部门施压未果 — rohanpaul_ai · 2026-11-11
- TensorSharp 本地跑 Pi 编码 Agent:Qwen3.8-27B 完整 CLI 与 SDK 教程 — fuzhongkai · 2026-11-11
- 实测 Spotify 的 Claude Code 省 90% token 技巧:真实省钱数字出炉 — aakashgupta · 2026-11-11
- 一次 Opus 运行花费 $1.99,94% 花在读文件而非写代码 — aakashgupta · 2026-11-11