SII-GAIR 用 AI 智能体改进前沿规模预训练，30B 模型权重将开源
AdinaYakup · x · 2026-11-05
- SII-GAIR 与 Xinxu AI 公布了一项罕见的工作：将 RSI（自我改进）应用于一次完整的前沿规模预训练运行，并分享了详细洞察。
- 关键数据：总参数 30B / 激活 3B（MoE 架构）；预训练语料中包含 134B 个 agentic tokens。
- 核心做法：AI 智能体通过调试、评估与反馈循环来改进预训练过程。
- 承诺即将发布：base 模型权重 + Tiny SFT 数据集（已在 Hugging Face 更新，271k 下载）+ 详细技术报告。
所属事件:SII-GAIR 用智能体自改进完成 30B 模型前沿规模预训练(2 条相关)→
「模型」频道最新
- Claude 上线 URL 屏蔽申诉通道，品牌可申请阻止链接出现在输出中 — lilyraynyc · 2026-11-06
- 纯语音训练的 Block 语音 AI 被实测抓出多处事实错误 — rdesh26 · 2026-11-06
- 把权重当图像生成：diffusion 复用模型权重的大胆设想 — zsakib_ · 2026-11-06
- Claude 将进入 Microsoft Copilot，2026 年底前实现欧盟数据边界内处理 — clamanna · 2026-11-06
- 28849 次实测比较 9 款编码 Agent Harness,bash 极简框架登顶 — yb2698 · 2026-11-06
- 博主期待 GPT 6.2 能复现 Opus 5.5 的游戏/3D 编程创造力 — mark_k · 2026-11-06