DeepSeek flash 端点冲上约 1000 TPS,内核优化全靠模型自己改
saranormous · x · 2026-11-05
DeepSeek v4.1 flash 的快速端点在 Artificial Analysis 上达到 991 output tokens/s,处于「每任务耗时最短」的帕累托前沿。据开发者介绍,团队用内部 harness 对 80 多个 kernel 和瓶颈做了优化,涵盖 kernel fusion、programmatic dependent launch 等。
更值得注意的趋势是「模型驱动的模型基础设施」:profiling、重写、benchmark 这类内核优化任务定义明确且可验证,是 agent 理想的爬坡任务——例如 Kimi k3 的早期 checkpoint 就承担了其后续开发中大部分内核优化工作,模型在 kernel 任务上已比人类好出数量级。
「Infra」频道最新
- Shawn Hymel 新视频:用 Meshtastic 设备做 IoT 传感器节点 — ShawnHymel · 2026-11-06
- UBS:Aspeed 已获 2027 年 BMC 订单,AI 服务器需求强劲 — BenBajarin · 2026-11-06
- 著名轻量虚拟机 Firecracker 被逃逸:攻击者拿到宿主机 root 权限 — moyix · 2026-11-06
- 梅赛德斯携手Liquid AI:让AI模型直接跑在车里而非云端 — JosephJacks_ · 2026-11-06
- Liquid AI LFM3 被赞消费级硬件本地 AI 的 iPhone 时刻 — JosephJacks_ · 2026-11-06
- 1350 个 agent 会话评测只花 5 美元:LoRA 共享权重训练法 — yb2698 · 2026-11-06