Hugging Face transformers 支持全模型导出量化,任意后端即插即用
huggingface · x · 2026-11-14
Hugging Face 团队成员 Ilys Moutawwakil 宣布 transformers 库迎来重要更新:现在可以导出、量化并端到端运行所有 transformers 模型,且支持任意后端。
核心卖点是 drop-in replacement(即插即用):同样的输入在导出/量化前后得到同样的输出,开发者无需改动现有代码即可把模型部署到不同推理后端。发布附带了完整文档与 release notes。
「Infra」频道最新
- Nina Schick:首个需求不被人类限制的算力周期,智能即算力 — NinaDSchick · 2026-11-14
- MiniMax H3 图像模型 50GB 栈竟能跑进 8GB 显存,57 秒一张 — wreck_of_u · 2026-11-14
- AMD上调指引:明年营收预增超80%,数据中心AI收入翻倍以上 — Beth_Kindig · 2026-11-14
- 2018 年的 Jetson AGX Xavier 跑 Qwen3.8 27B:decode 17 tok/s 的完整折腾记录 — cortexist · 2026-11-14
- 微软宕机 18 小时:99.9% 承诺意味着每月仅 43 分钟 — justin_hart · 2026-11-14
- 爆料称英伟达 45% 芯片卖给 Neo-Cloud 与中国,断供或引发千亿缺口 — SumitGup · 2026-11-14