Latent Space 周报:Meta 816B 开源模型登顶,TPUv7 性价比超 GB300
Latent Space · rss · 2026-10-17
Latent Space 10/15-10/16 AI 新闻汇总,并预告新节目 High Taste Testers。要点:
开源模型
- Meta Muse Spark Open:816B 总参/42B 激活 MoE 开源模型,Artificial Analysis 智能指数 39 分,为美国开源模型最高,领先 NVIDIA Nemotron 3.5 Super VL 13 分。62 层 GQA、1M 上下文、多模态输入,BF16 权重约 1.6TB(NVFP4 版约 530GB,可放 4 张 Blackwell Ultra 或 8 张 H200)。托管价 $1.25/$4.25 每百万 token,单任务成本 $0.84(GLM-5.3 为 $2.01,DeepSeek V4.1 Flash 仅 $0.27)。短板:AA 四项 agent 评测在顶级开源模型中垫底;许可要求 attribution,MaaS 年营收超 $2000M 需另签协议。mlx-lm、vLLM 首日支持,Apple 还发布了跨 Mac Studio RDMA 分布式推理博客。社区批评其面对 MIT 许可、更小的 V4.1 Flash 是"DOA"。
- Reflection Beam 1.0:501B 总参/23B 激活 MoE,Apache 2.0,1M 上下文,含 BF16/FP8/NVFP4 权重、DFlash2 drafter、Mirror CLI 和安全报告。AA 30 分居美国开源第二;AutomationBench-AA 48.5% 但 Terminal-Bench 4.0 仅 3.0%,AA-Omniscience 幻觉率 47%。架构上用滑窗注意力(512、5:1)、无 RoPE、QK-norm、logit softcapping、无共享专家。4×B300 NVFP4 达 1769 tok/s;SkyRL 首日支持 LoRA/全参微调/RL,LoRA 解码吞吐 +62%。Ollama 限时免费托管。
- 其他:StepFun 开源 Step 5 Preview;腾讯 Hy-Memory-30B-A3B 宣称在记忆框架上胜 Opus 5;Datalab 发布 1M 参数 OCR 模型 Indra,CPU 上比 Tesseract 快 15 倍。
前沿模型与产品
- Gemini 4 Argon 向 Pro 订阅者和 AI Studio 开放,输出上限提升到 1M token, introductory 定价 $2/$10 至 11 月 30 日;Perplexity WANDR 基准 SOTA,Agent Arena 第 5。
- Anthropic:Haiku 5.5 定价 $0.10/$0.50(10 万 token 内),比 Haiku 4.5 便宜约 90%;Terminal-Bench 4.0 得 39.2%(GPT-6 Luna 为 16.4%)。传 Opus 5.5 有 2.5 倍速 fast mode。Claude Code 每轮 gzip 压缩会话载荷降低延迟。
- OpenAI:GPT-6 Astra Pro 支持并行多 agent 分工执行任务;GPT Live 1.1 改进多语言语音并新增 9 个母语者录制的预设;传 Codex 将有一到两个新模型(未经证实)。
- Elorian Glimpse:视觉思考 VLM,在潜空间视觉状态上做循环计算而非文本 CoT,宣称 12 项基准中 5 项持平或超越 Astra,token 价格低 17 倍。
决策模型品类
- Liquid d1-ultra 登顶 AA Decision Index(65),非幻觉率 85%,单任务 92ms。
- Perplexity 开源 pplx-decider v1.2(27B @2¢/M、4B Flash @1¢/M),单 pass 多问题推理快 5 倍。OpenAI Live API 新增 Decisions API。
推理硬件
- SemiAnalysis:TPUv7 在 AgentX 上每美元性能达 GB300 NVL72 FP4 的 1.42 倍、MI355X 的 2.5 倍;中高交互性下最高 3.16 倍于 disaggregated GB200。
- Vera Rubin NVL72:在 DeepSeek V4 Pro 上每 MW 吞吐最高 5.7 倍于 GB300,单用户纪录 906 tok/s(V4.1 Flash)。
- AMD MI355X:8 卡在 Kimi K3 @50 tok/s/用户下吞吐比 HGX B300 高 24.4%,每美元 token 多 87.4%。
「Infra」频道最新
- 50W 功耗 Jetson AGX 64GB 实测 Qwen 系列模型:27B Q4 生成 10.5 token/s — Boognevatz2 · 2026-10-17
- 开源驱动让 RTX 5090 在 macOS 跑 Metal,本地推理多一条路 — quantier · 2026-10-17
- DFB 激光器将走向 LED 式过剩:作者测算 2030 年全球 1GW 产能 — jwt0625 · 2026-10-17
- 嘴上说市场不理性,CoreWeave 三位联合创始人已套现 33 亿美元 — GaryMarcus · 2026-10-17
- 96GB+48GB 显存玩家晒全本地智能体「Muse」,征长程任务模型选型 — CharlesStross · 2026-10-17
- Architect 创始人提议:像股票交易一样用拍卖市场给 AI 推理定价 — AccBalanced · 2026-10-17