前英伟达工程师详解 AI 推理全栈:从芯片到算力定价
ramagetime · x · 2026-08-27
Naval 推荐了一期关于 AI 推理的深度播客。嘉宾 Neil Movva 曾任职于英伟达,对从软件、芯片到电力的推理全栈有深入理解。
核心讨论内容:
- 技术权衡: 延迟(Latency)与吞吐量(Throughput)的取舍。
- 芯片经济: “没有不好的芯片,只有不好的定价”,如何利用别人不想要的算力与电力。
- 工程趋势: 内核工程(Kernel Engineering)的终结。
Neil 目前创办 Sail Research,致力于为智能体构建基础设施以降低 Token 成本。
「编程与Agent」频道最新
- ARC-AGI-3 攻略:构建自学习 Agent 的关键设计 — GregKamradt · 2026-08-27
- HeyGen 开源 HyperFrames:把视频剪辑变成写代码 — altryne · 2026-08-27
- HeyGen 为何开源 HyperFrames:将视频编辑转为代码问题 — altryne · 2026-08-27
- AI Bot 实现自主交易,花钱买下另一 Bot 的艺术品 — Daniel_Farinax · 2026-08-27
- 构建多模态智能体:从 LLM 到落地 Agent 的 7 步路线图 — MaryamMiradi · 2026-08-27
- 开源工具 74K star:截图直接还原成可运行代码,还支持录屏理解交互 — Shruti_0810 · 2026-08-27