16 块 Gen5 NVMe 组 RAID 0,带宽 208GB/s 等效四通道 DDR5
carrigmat · x · 2026-08-27
carrigmat 继续科普纯 CPU 本地跑大模型方案中最大争议点:
- SSD 寿命:现代 SSD 读取寿命近乎无限,磨损来自反复写入;权重只需拷贝一次,之后全程只读,不会写坏盘。
- 带宽质疑:有人认为「LLM 速度正比于带宽,NVMe 拼不过内存」。作者回应:单块 Gen5 NVMe 约 13GB/s,16 块组 RAID 0 可达 208GB/s,相当于 4 通道 DDR5 的带宽水平。
所属事件:六千美元纯CPU服务器本地全量跑万亿级开源模型(14 条相关)→
「Infra」频道最新
- 新一代 GraalVM 亮相:免构建启动快 4 倍,内存省 50% — RealGeneKim · 2026-10-15
- 微软深度优化 Windows 迎接 Nvidia RTX Spark:两步装好本地 AI agent — tomwarren · 2026-10-15
- 微软联手Nvidia优化Windows,为RTX Spark Arm笔记本铺路 — The Verge AI · 2026-10-15
- 全球智能手机出货量暴跌 22%,创史上最大季度跌幅,元凶是 AI 抢内存 — Polymarket · 2026-10-15
- SK 海力士再跌 11%:已低于 2027 财年预期利润 3 倍市盈率 — JOBhakdi · 2026-10-15
- ASML 高管:「我们在欧洲一台光刻机都卖不出去」 — NinaDSchick · 2026-10-15