Hugging Face 工程师主张「90% token 用本地开源模型,10% 留给前沿模型」
TheZachMueller · x · 2026-10-26
Hugging Face 工程师 Zach Mueller 重申自己的算力配比主张：日常 token 的 90% 用本地/开源模型处理，只把 10% 留给前沿模型。他在引用 Ahmad Osman 的讨论——后者指出社区容易非此即彼：一边说前沿首选 Opus 5.5，一边被质疑为何还在鼓吹本地开源模型。Mueller 认为两者本就该共存。
「Infra」频道最新
- 四张 R9700 跑 DeepSeek Flash V4.1 IQ2_XS 实测 — poofph · 2026-10-26
- vLLM 生产栈跑 K8s 没问题,但 agent 沙箱 Modal 用另一套扩展到百万并发 — NielsRogge · 2026-10-26
- 曝 Anthropic 拟以逾10%高息发90亿美元次级债,押注1.5GW TPU租赁 — Beth_Kindig · 2026-10-26
- 花21美元 API 让 DeepSeek 写引擎:Mac 上跑出 300+ tok/s,快过 mlx-lm — GabGarrett · 2026-10-26
- 马斯克:SpaceX 完成 400 亿美元 GPU 债务融资,200+ neocloud 将迎洗牌 — XFreeze · 2026-10-26
- Strata 移植 Jetson AGX Orin 64GB：Qwen3.6-35B 解码提速至约 41 tok/s — No-Setting8461 · 2026-10-26