Together AI 直播复盘:Ripple-65B 本地编码模型如何从零训练
togethercompute · x · 2026-11-18
Together AI 与 Ricursive Intelligence 举办技术直播,回顾 65B 参数编码模型 Ripple-65B Preview 的从零构建过程。该模型为稠密 Transformer,预训练数据量 12 万亿 token,支持最高 1M 上下文,参数规模刻意控制到可跑在 NVIDIA DGX Spark 等本地设备上;其内部变体支撑着 Ricursive 自家的 AI 芯片设计平台。
直播内容涵盖:实验与消融、模型架构与训练数据策略的取舍;RL 训练的实际运行记录(包括哪些有效、哪些失败);以及如何把 Ripple 跑在 Together 上并接入编码 agent 与开发者工作流。适合做预训练/后训练/RL 的工程师参考。
「编程与Agent」频道最新
- 曝 Copilot 将推多人 Workspaces:团队与 AI agent 协同工作 — testingcatalog · 2026-11-18
- Copilot 推出多人协作 Workspaces,团队与 AI 智能体可协同工作 — testingcatalog · 2026-11-18
- 纳德拉定调 Copilot 三形态:Home 助手、Code 工厂、Autopilot 队友 — donasarkar · 2026-11-18
- supermemory 为 Antigravity 推出跨工具共享记忆插件 — Scobleizer · 2026-11-18
- Adaption 出插件版:在 Hermes Agent 里直接微调专属模型 — sarahookr · 2026-11-18
- Reddit 长文:Agent 记忆基准只测召回,没人测「记忆来源」 — Mr_Daud_9899 · 2026-11-18