传闻某模型将以约750tps高速推理

adonis_singh · x · 2026-07-06

一条推文称“神话级”性能的模型很快将以约750 tokens/秒的速度运行，并希望不要因此削减上下文窗口。该说法未点明具体模型且未经证实，属推理速度方面的传闻，仅作参考。