自建基础设施上部署 1T 参数模型季：开发者晒基建部署
dejavucoder · x · 2026-10-23
开发者 @dejavucoder 发文称，现在到了「在自家基础设施上部署 1T(万亿)参数模型」的发帖季，暗示多个团队正在自建算力上部署万亿参数级大模型。
「Infra」频道最新
- VHA 注意力新方法：KV 缓存减 4 倍，长上下文 RULER 84.4 超 GQA 的 73.0 — pmttyji · 2026-10-23
- NVIDIA 发布 Nemotron 3.5 Bolt E4B：6GB 内存即可本地运行的开源视觉模型 — danielhanchen · 2026-10-23
- TensorSharp 跑 DeepSeek V4.1 Flash prefill 吞吐达 llama.cpp 4.4–5.5 倍 — fuzhongkai · 2026-10-23
- SauerkrautLM 发布 1.5M~115M 三档 MoE 稀疏检索器 — QuixiAI · 2026-10-23
- 亚马逊 CEO：年砸 2200 亿美元仍满足不了 AI 需求 — a16z · 2026-10-23
- 2-bit 量化 DeepSeek 4.1 Flash 本地实测：KDL 劣化明显却仍能用 — bakawolf123 · 2026-10-23