开发者自建家用推理设备月处理破 10 亿 token

开发者 natesiggard 晒出其家用自建推理设备(基于 Actual/ROIE)首月成绩单:自 10 月 11 日起一个月内累计处理超 10 亿个 token(约 1,001,081,028 个)、约 11 万次请求,其中主力模型为 Qwen3.8-Flash。统计面板截图展示了详细的 token 与请求量数据,引发社区对家用级推理设备实际负载能力的关注。

2026-11-11 ~ 2026-11-11 · 2 条相关