开发者预测:万级 tok/s 推理将让前沿大模型实时驱动机器人

eigenron · x · 2026-09-07

作者 eigenron 预测:未来一两年内,像 WSE-5/6 或下一代 Etched 芯片上的高速推理,将使通用前沿模型无需任务特定训练即可作为实时机器人策略使用——大致相当于每路流 1 万到 10 万 tok/s 的 GPT-8 水平。他还称当天测试了某个东西让其大受震撼,认为延迟(latency)而非算力吞吐才是更大的瓶颈。

所属事件:开发者称高速推理芯片或让前沿模型驱动机器人(2 条相关)→

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →