SGLang 宣布首日支持 Pokee-Isaac 28B 部署
Kyrannio · x · 2026-08-05
推理框架 SGLang 官方宣布,已为最新发布的 Pokee-Isaac 28B 模型提供首日部署支持。
支持特性:
- 完美支持 10M token 上下文,在全长状态下保持 93.3% 的 RULER 分数。
- 在单张 B200 GPU 上,10M 上下文可实现最高 137K tokens/s 的 prefill 速度。
- 支持在单张消费级显卡(如 RTX 4090)上运行。用户现可通过 SGLang 直接体验该模型。
所属事件:Pokee-Isaac 28B发布:单卡跑千万上下文登顶BFCL(5 条相关)→
「Infra」频道最新
- 微软等五巨头已锁定超万亿美元AI数据中心租赁支出 — Polymarket · 2026-08-05
- 挑战 GPU 霸权:YC 新项目宣称推理芯片能效比提升 63 倍 — ycombinator · 2026-08-05
- Kimi K3 专属加速:DSpark 推测解码方案已开源 — ying11231 · 2026-08-05
- 传美国拟禁中国数据中心组件,欧洲借机推进算力主权 — nordicinst · 2026-08-05
- Cursor 发布 MoE 训练 megakernel,宣称算力近乎翻倍 — CapnHat · 2026-08-05
- 嫌报价太贵,核能初创Valar自研安全系统省12倍 — No Priors · 2026-08-05