Artificial Analysis 将测试 4-bit 量化与 Metal 投机解码引擎
ArtificialAnlys · x · 2026-10-16
Artificial Analysis 补充说明其本地 Agent 基准的后续计划：正在测试更多权重格式和运行时，包括更小的 4-bit 格式（如 IQ4XS）和 Inco AI 的 Splash——一个使用 DFlash 投机解码的 Apple Silicon Metal 引擎。早期测试显示部分系统完成时间更快，结果通过准确性检查后会公布。
所属事件:RTX Spark N1X 本地 Agent 跑分出炉：比 MacBook Pro 快一倍但售价更高(4 条相关)→
「Infra」频道最新
- DOT-MoE:用最优传输把稠密模型改造成稀疏 MoE — burkov · 2026-10-16
- 斯坦福 CS336:7B 模型权重仅 14GB,训练却要 84GB 起步 — stanfordnlp · 2026-10-16
- NVIDIA NVFP4 新压缩技巧:利用行内尺度相近性省 45-48% 存储且位精确 — TheZachMueller · 2026-10-16
- AWS 延期 Claude Sonnet 3/3.5/3.6 EOL 至 2026 年 11 月 13 日 — repligate · 2026-10-16
- Apple、Meta CEO 热炒 Mac 芯片推理，有人断言分布式推理网络是百亿美元机会 — gajesh · 2026-10-16
- NVIDIA 74B 新模型登顶美国开源榜，已可本地跑在 Mac 上 — SumitGup · 2026-10-16