自建混合架构跑出 262K 上下文 1000 tokens/秒预填充
HankYeomans · x · 2026-10-08
开发者 HankYeomans 称其基于 DeepSeek 打造的混合架构「DeepSeek V4.1 Flash Frankenstein」在 262K 上下文长度下达到 1000 tokens/秒的预填充(prefill)速度。属个人自部署实验成果,细节未展开。
「Infra」频道最新
- SketchSSM 解读：低秩基近似读状态，窗口内免全量读 — sehoonkim418 · 2026-10-08
- 线性注意力占大 batch 解码延迟 75%，读状态成瓶颈 — sehoonkim418 · 2026-10-08
- 传 Baseten 毛利率仅 17%，Cursor 占收比半年从 57% 跌至 28% — menhguin · 2026-10-08
- FT：中国在能源富集腹地加速兴建 AI 数据中心 — EleanorOlcott · 2026-10-08
- OpenRSI 智能体产出 3 项优化被 SGLang-Omni 官方合入 — yuz9yuz · 2026-10-08
- 光收发芯片为何输出波导要倾斜？作者再追问端面角度设计的门道 — jwt0625 · 2026-10-08