前英伟达工程师详解 AI 推理全栈:从芯片到算力定价
ramagetime · x · 2026-08-27
Naval 推荐了一期关于 AI 推理的深度播客。嘉宾 Neil Movva 曾任职于英伟达,对从软件、芯片到电力的推理全栈有深入理解。
核心讨论内容:
- 技术权衡: 延迟(Latency)与吞吐量(Throughput)的取舍。
- 芯片经济: “没有不好的芯片,只有不好的定价”,如何利用别人不想要的算力与电力。
- 工程趋势: 内核工程(Kernel Engineering)的终结。
Neil 目前创办 Sail Research,致力于为智能体构建基础设施以降低 Token 成本。
「编程与Agent」频道最新
- 马斯克转发用户实测:Grok Bot 不比 Codex 强但更顺手 — elonmusk · 2026-10-15
- 独立开发者发布 Blob0:把 S3/R2 对象存储管成 Mac 本地文件夹 — yihui_indie · 2026-10-15
- 2026 AI 工程师六层技能栈:从向量库到 Agent 编排 — mdancho84 · 2026-10-15
- 用 ChatGPT 搭机械工程工作流:Agent 编排热固封头研究,却因重置中断 — burhop · 2026-10-15
- 开源 Harness 工程课爆火:19k 星教你让编码 Agent 干活可靠 — thisguyknowsai · 2026-10-15
- 6 人团队 3 个月:AI Agent 进驻医保预授权平台的落地实录 — alex_verem · 2026-10-15