播客:为何租不到 GPU,推理算法过时,HF 黑客事件分析
ziv_ravid · x · 2026-09-02
Information Bottleneck 播客最新一期对话 Modal 创始人 Charles。核心议题包括:
- GPU 租赁困境:解析为何简单粗暴地“租 1000 张 GPU”行不通,涉及底层资源调度与经济学逻辑。
- 推理算法演进:指出当前主流推理算法已不适配现代硬件架构,探讨未来优化方向。
- Hugging Face 黑客事件:结合该事件深度讨论开源模型的安全边界与潜在风险。
节目已在官网、YouTube 及各大播客平台上线。
「Infra」频道最新
- 本地 RAG 应否常驻空闲算力?架构权衡讨论 — Cautious_Bit_8521 · 2026-09-02
- 本地跑模型建议:Mac 上用 gpt-osx-20b 或 Qwen — JoshPurtell · 2026-09-02
- M1 Max 性能更强:Qwen 3.8 在 128k 上下文跑出 72 tok/s — EyalToledano · 2026-09-02
- 英伟达财报解读播客:70%营收指引与毛利承压 — BenBajarin · 2026-09-02
- 双R9700跑Qwen3.8 27B达280 tok/s,MXFP4超越FP8逼近硬件极限 — whodoneit1 · 2026-09-02
- LLM 推效前沿:成本与能力的权衡技术解析 — philipkiely · 2026-09-02