DGX Spark 本地跑 262K 上下文：Athena 引擎实测千 tps 预填充
solyarisoftware · x · 2026-09-20
- 新推理引擎 Athena 面向 Nvidia GB10 系统（DGX Spark）发布，单台 128GB DGX Spark 可同时跑 DeepSeek V4 Flash 和 Qwen3.8 Flash-Next，262K 上下文。
- 实测数据：DeepSeek V4 Flash 8K 预填充 1,126 tps、256K 预填充 948 tps、256K 解码 19.4 tps；Qwen3.8 Flash-Next 预填充 1,071 tps、256K 解码 32.1 tps，8K→256K 预填充几乎不衰减。
- 特色功能：
- 长对话缓存到磁盘：14.1 万 token 会话恢复仅 2.1 秒，而重新处理需约 2 分 20 秒
- 投机解码
- OpenAI/Anthropic 兼容 API、工具调用
- Qwen 图像/文档输入、持久 agent 上下文
- Docker 安装、无需改客户端即可切换模型
「Infra」频道最新
- 分析师推算：国产芯片放量后中国或按 1:2 配比逐步放开 H200 — teortaxesTex · 2026-11-12
- 数据中心的账：支撑美国科技业 20% 与十年股市涨幅约一半 — SydSteyerhart · 2026-11-12
- 预算级独显服务器租赁指南:OVH、FiberState 及询价技巧 — realmrfakename · 2026-11-12
- AMD EPYC 评测配图神似 ViT 分割模型 logit 伪影，逗乐 AI 研究员 — giffmana · 2026-11-12
- llama-modchip：64GB 内存纯 CPU 跑 284B 模型，零 GPU — pmttyji · 2026-11-12
- Agent Substrate 计算器：预测不同负载下 agent 会话恢复速度 — pjausovec · 2026-11-12