Latent Space 周报:权重空间编程多重复现,腾讯 Hy4 与 Kimi K3.1 Pro 密集发布
Latent Space · rss · 2026-11-05
Latent Space AI News 11/02–11/03 期,信息密度极高,核心内容:
权重空间编程(Weght-Space Programming)争论与复现
- 多个团队复现「前沿模型直接读写小网络权重」:MIT 实验跨代复现显示最新模型生成的 Breakout 网络达 RL 基线的 22 倍;Hugging Face 用开源 AI 研究工具 ML Intern 复现并放出模型与 demo
- GPT-6 Astra 无反传编辑 Qwen3.5-0.8B 的 131,072 个权重,MATH-500 从 7.9% 提至 48.1%;知乎社区从日志重建发现:576/579 个「修复」答案是原本因循环踩 32K token 上限,真实增益是让已有推理跑完;held-out 集准确率 10.6%→60.4%
- Simon Willison 在笔记本上用 Qwen 3.8 27B 复现;批评者指出缺基线、属 benchmark 拟合而非递归自改进;Latent Space 承认原报道表述偏乐观,但认为多重复现成立,不值得撤稿
模型发布与评测
- 腾讯 Hy4:APEX-Agents 75.2 分,API $0.834/$2.501 每百万 token,计划开源权重;Agent Arena 排 #14,$0.55/任务
- 开源动态:Kimi K3.1 Pro 周三放权重;LongCat-2.5(1.6T 总参/48B 激活,$0.30/$1.20);Pruna 的 P-H3-Image 蒸馏模型 8 步出图、小 7 倍;Raschba 盘点 10 月 10 个开源架构(Mistral Large 4 的 MLA+稀疏注意力、Meta Muse Spark Open 816B LatentMoE、Mamba-2 混合等)
- Artificial Analysis 指数 v2.0:Claude Opus 5.5 (max) 领跑全部六项,Kimi K3.1 Pro 领跑开源;Vals 研究:GPT-6 Astra 最低推理档保留 88% 分数、仅 18% 成本
- 未证实的 GPT-6.2 目击传闻流传,一条病毒式「隐身测试」被证伪为普通 GPT-6 Astra
评测完整性与安全
- Anthropic 开源 FlashProve 可证明推理系统,不暴露权重即可验证响应来自特定模型,Gemma 4 31B 在单 H100 上 53–77 tok/s
- Prime Intellect 修复多个公共评测问题;Xeophon 审计发现 AutomationBench、OfficeQA Pro v2 评分器缺陷及模型通过联网从 HF 抓答案,SWE-bench Multimodal 去掉图像分数几乎不变
- SemiAnalysis GDPx 基准(14 数据方、11 领域):GPT-6 Astra 在 cyber 任务上因全部拒绝得 0 分;OpenAI 发文研究评测到部署的泛化;METR/Redwood 演练发现压缩导致约 10% 的内部 Codex 流量未被监控
「模型」频道最新
- RLM 设想:8B 模型读 n-gram 表,理论可对标 1T 参数 — gnukeith · 2026-11-05
- 开发者实测 Kimi K3.1 Pro:全程生成 36 零件可拆解 3D 相机模型 — HowDevelop · 2026-11-05
- Unsloth 发布 Qwen3.8-Flash-Next 本地运行指南:1-bit 仅 75GB — gnukeith · 2026-11-05
- Ripple 模型阶梯实证:换数据集带来 4 倍提升,换架构仅 3 倍 — finbarrtimbers · 2026-11-05
- 自建词联想基准 1300 局:Google 模型居首,OpenAI 次之,Anthropic 垫底 — Hardicecream17 · 2026-11-05
- 企业搜索基准榜:开源 PipesHub 93 分登顶,Google 仅 41 分垫底巨头 — aakashgupta · 2026-11-05