SageMaker 训练会话 API 拆解:把训练循环从 GPU 运维中解放出来
AWS ML Blog · rss · 2026-10-23
AWS ML Blog 技术长文详解 SageMaker AI training session API 的编程模型。
核心设计:
- 抽象边界下沉一层:不抽象算法、只抽象算力,forwardbackward()、optimstep()、sample() 成为可自由组合的 API 调用,支持任意自定义 SFT/偏好优化/RL 流程
- 会话是有状态的:模型常驻 GPU,无预置集群、无作业配置文件,本地 Python 进程即可交互式驱动训练
- SDK 分三层客户端:ServiceClient(角色/KMS/VPC/启动会话)→ TrainingClient(训练与 checkpoint)→ SamplingClient(sample 与 computelogprobs),活跃会话还提供 OpenAI 兼容的 chat completions 端点
- RL 循环分工:采样、梯度、checkpoint 在托管 GPU 上,循环控制与奖励逻辑在本地机器
- 计费按 token 计算,本地跑奖励函数期间 GPU 不计费,重本地计算(复杂 reward model、多工具 agentic rollout、人在环评估)场景省得多
- 配套发布 training sessions cookbook,含 GSM8K 最小 RL 循环与用单元测试评分的竞赛编程 RL 实战;适合 RL 研究者、需要非标准损失/数据课程的团队、agentic 多轮 RL 构建者
「编程与Agent」频道最新
- PHP/node.js/GitLab 大规模安全事件后，Cognition 开源 Devin 修复插件 — Scobleizer · 2026-10-23
- 用 Grok 机器人+租 GPU，个人微调模型变得触手可及 — Rasmic · 2026-10-23
- 一句 prompt 挖出 PHP 预认证 RCE：Agent 辅助漏洞挖掘实录 — chrisrohlf · 2026-10-23
- AutoRouter 公测：按任务难度自动在 Claude/GPT 等模型间分单省 token — floguo · 2026-10-23
- Speak 详解 GPT-Live 实时语言家教:如何用低延迟决策实现即时纠错 — pbbakkum · 2026-10-23
- Google Live API 新增决策触发器，比 function call 更快 — pbbakkum · 2026-10-23