MiniMax 3.1 Flash 用 MLX 本地跑通，官方基准竟基于量化权重
pcuenq · x · 2026-10-23
Hugging Face 员工 pcuenq 演示用 MLX 在本地运行 MiniMax 3.1 Flash。他指出一个趋势：越来越多模型直接发布高质量量化版本，速度快且精度损失可忽略，甚至官方公布的基准分数就是基于量化权重测得的。他认为本地 AI 正在真正驱动创新。
「Infra」频道最新
- 200 个并发 LLM agent 跑在 1GB 内存、$6/月的 VM 上：瓶颈是自家的保存锁 — swarmagent · 2026-10-23
- Blaise 新书获盛赞,其太空 GPU 项目 Suncatcher 完成首飞 — paulnovosad · 2026-10-23
- 苹果 MLX 实测：四台 Mac Studio 跑 816B 模型，每秒 36 token — JeremyCMorgan · 2026-10-23
- 浏览器免费实测 Jetson:INT4 量化让 Cosmos3-Edge 挤进 8GB — No-Dragonfly6246 · 2026-10-23
- 魔改 32GB 版 RTX 4080 解锁算力:BF16 翻倍至 184 TFLOPS — Desperate-Sir-5088 · 2026-10-23
- 一周四篇芯片高管访谈：CUDA 之父谈 GPU 为何持续碾压 ASIC — firstadopter · 2026-10-23