Pete Warden 谈本地 AI:开权重模型为何正挑战云端前沿模型
bigdata · x · 2026-11-19
The Data Exchange 播客邀请 Moonshine Voice 联合创作者、资深深度学习工程师 Pete Warden,探讨 AI 为何越来越多地要在本地运行而非依赖云端。话题涵盖:开源权重模型的快速进步、在笔记本和浏览器里跑 LLM 的量化实践、低延迟语音模型如何让语音成为更自然的交互界面、专用模型与端到端模型之争、本地 AI 的经济学、以及可能挑战 GPU 中心基础设施的新硬件路线(高带宽闪存、苹果与 NVIDIA 的推理思路)。
「Infra」频道最新
- llama.cpp Vulkan 下投机解码被吐槽:更慢、更吃显存,还不如不开 — ParaboloidalCrest · 2026-11-19
- AMD XDNA 2 NPU 获 Unsloth Desktop 支持,宣称全球首个 — danielhanchen · 2026-11-19
- Verba-TTS-Indic-Zero:仅 7.6MB、12 语言的超轻量 TTS,成本仅为 ElevenLabs 的 1/2000 — alexcovo_eth · 2026-11-19
- Kong 年跑 500 万亿 token 后推出 Volcano 自愈式 Agent 云 — EXM7777 · 2026-11-19
- 前 DeepSeek 核心成员开源 Linger:本地运行的个人 AI 智能体 — FellMentKE · 2026-11-19
- HyperFlow:14B 压缩版 MiniMax H3,6GB 显存跑视频生成提速一倍 — cgpixel23 · 2026-11-19