Together AI 直播复盘:Ripple-65B 本地编码模型如何从零训练

togethercompute · x · 2026-11-18

Together AI 与 Ricursive Intelligence 举办技术直播,回顾 65B 参数编码模型 Ripple-65B Preview 的从零构建过程。该模型为稠密 Transformer,预训练数据量 12 万亿 token,支持最高 1M 上下文,参数规模刻意控制到可跑在 NVIDIA DGX Spark 等本地设备上;其内部变体支撑着 Ricursive 自家的 AI 芯片设计平台。

直播内容涵盖:实验与消融、模型架构与训练数据策略的取舍;RL 训练的实际运行记录(包括哪些有效、哪些失败);以及如何把 Ripple 跑在 Together 上并接入编码 agent 与开发者工作流。适合做预训练/后训练/RL 的工程师参考。

原文链接 →

「编程与Agent」频道最新

更多「编程与Agent」频道 AI 资讯 →