Tenstorrent 8 台 Galaxy 跑 gpt-oss-120b 达每用户 5300 tokens/秒

DavidBennett__ · x · 2026-11-21

Tenstorrent 公布推理优化成果:Galaxy 集群运行 gpt-oss-120b 的解码速度达到每用户 5300 tokens/秒。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →