单卡RTX 5090成功跑满DeepSeek百万上下文

有开发者成功在单张RTX 5090(32GB显存)搭配256GB DDR5内存的桌面环境下,部署了DeepSeek-V4-Flash模型并跑满100万原生上下文。最新优化进展显示,通过采用双CUDA图技术,有效解决了此前固定批处理带来的性能瓶颈,进一步提升了该庞大模型在消费级硬件上的推理速度。

2026-08-04 ~ 2026-08-05 · 2 条相关

事件全程(共 15 集)→