消费级显卡跑大模型两年提速12倍,预测2027年游戏PC可本地运行前沿模型

Yuchenj_UW · x · 2026-08-24

作者对比了两个时间点:2024 年,一台配备 RTX 4090 的游戏 PC 以 4-bit 量化运行 Llama 3 70B,速度仅约 2 tok/s;到 2026 年,配备 RTX 5090 的游戏 PC 已能以原生 mxfp4 量化运行 DeepSeek-V4-Flash 284B,速度达约 24 tok/s——两年间速度提升约 12 倍,参数量还翻了 4 倍。作者据此预测:到 2027 年底,游戏 PC 将能以不错的速度本地运行接近 Fable 5 级别智能的模型。

原文链接 →

「Infra」频道最新

更多「Infra」频道 AI 资讯 →