Fortytwo Engine 用 Swarm Inference 让 Qwen3.8-27B 准确率升 7%、token 省 25%
rohanpaul_ai · x · 2026-10-16
Fortytwo 发布推理 API Fortytwo Engine,通过 Swarm Inference 方式运行开源权重模型,宣称无需更换模型即可获得更好结果。
- 首个模型为 Qwen3.8-27B,平均准确率比基座模型高 7%:DeepSWE 从 42.2 升至 47.8(+13.3%),GPQA-Diamond 从 90.9 升至 95.1,LiveCodeBench v6 从 80.2 升至 84.1
- token 效率:在 450 次 DeepSWE 基准运行中,平均每次运行 token 从 16.3M 降至 12.3M(-24.7%)
- 定价与速度与基座模型持平:输入 $0.425/MTok、输出 $2.55/MTok,上下文 262K
- 默认零数据保留,支持函数调用、结构化输出、图像输入与流式输出
「Infra」频道最新
- OCP 峰会幻灯片:10 米内互连 AEC 比光模块更省电省钱 — firstadopter · 2026-10-16
- 分析:DeepSeek V4.1F 服务成本远低于竞品,故意给 token 定高价 — teortaxesTex · 2026-10-16
- 苹果实测 4 台 M5 Ultra Mac Studio 跑万亿参数 Muse Spark Open:36.7 tok/s — EAccelerate_42 · 2026-10-16
- PrismML 发布 Bonsai 2 三值模型:9B 仅 2GB,指令遵循反超 Qwen3.5 — calabi_and_yau · 2026-10-16
- llama.cpp v0.7.0 发布:MoE 专家 GPU 缓存使解码最快提速 2.2 倍 — EAccelerate_42 · 2026-10-16
- NVIDIA 发布 Nemotron 3.5 Bolt:74B 模型塞进 24GB 显存 — NVIDIAAI · 2026-10-16