AWS 支持 Nemotron 3 无服务器微调
Ars Technica AI · rss · 2026-07-10
AWS 介绍了如何在 **SageMaker AI** 上对 **NVIDIA Nemotron 3** 做 serverless model customization。 ### 文章重点 - 支持的模型包括 **Nemotron 3 Nano 30B** 和 **Nemotron 3 Super 120B**。 - 这些模型采用 **Mamba-Transformer MoE** 的混合架构，并支持最长 **1M token** 上下文。 - AWS 重点强调它们在推理效率、吞吐和多智能体任务上的优势。 ### 可用的定制方法 SageMaker AI 支持三类微调/对齐方式： - **SFT**：用标注样本教模型新行为； - **RLVR / RFT**：用可验证奖励优化工具调用、代码正确性、格式遵循等任务； - **RLAIF**：用另一个 AI 模型提供反馈，减少人工标注成本。 ### 主要卖点 - 不需要自己管理 GPU 集群、分布式训练和 checkpoint； - 适合把通用开权重模型改造成企业专用模型； - 也强调了通过小模型微调去逼近更大模型效果、节约成本的思路。