Reddit 热议:你的本地 LLM 到底拿来干什么,能跑多少 tk/s?

Ok-Option-82 · reddit · 2026-11-20

楼主坦言自己有「本地 LLM 的 FOMO」,不停换新模型测速度、还盯着新硬件,但困惑于大家实际上用本地模型做什么、该追求多少 token/s 的速度。帖子引发社区分享各自的本地部署用途与吞吐表现。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →