RWKV-8 RPU 预览:实时推理达每秒 12500+ tokens

kastnerkyle · x · 2026-11-17

RWKV 团队放出 RWKV-8 RPU 预览演示,实时智能处理速度达到 12500+ tokens/s。作者表示当前模型仍处早期阶段,目标是到 2027 年让领先的开源 flash 模型也能以类似速度运行,更多更大规模的 RPU 演示即将推出。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →