GPT-OSS-20B 思考链默认英文:AWS 实测微调后多语言推理修复
AWS ML Blog · rss · 2026-10-21
AWS ML Blog 发布在 SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理的完整教程。
问题:GPT-OSS-20B 的思维链几乎只用英文。在 50 例多语言测试中,基础模型仅 22% 按要求语言推理(英语 100%,法语/西语 0%,德语 10%,意语 0%)。
核心结论:SFT vs GRPO 怎么选
- SFT 教模型原本没有的行为;GRPO 只能强化模型偶尔已能做到的行为——若目标行为在基础分布中概率为零,GRPO 无从发力。
- 实测结果:SFT(LoRA r=8,1000 步)即可完成大部分修复工作;GRPO 在有余量的任务上追加收益。用 Qwen2.5-7B 做的对照实验进一步验证「按能力差距匹配技术」是决定因素。
技术栈:SageMaker HyperPod + EKS 编排,SFT/GRPO 用 PyTorch TRL,对照实验换 veRL + Ray + vLLM,存储用 FSx for Lustre,节点互联走 EFA,全程 LoRA 参数高效微调。
GitHub 仓库 awsome-distributed-ai 提供全部命令、K8s 清单与脚本,可照跑。
「编程与Agent」频道最新
- 研究智能体 Épi 刷新 120 项纪录,n-queens 常数区间缩小 84 倍 — dair_ai · 2026-10-21
- Compaction hooks 实战:保留末尾消息原文+摘要压缩,实现 agent 记忆连续性 — MoonL88537 · 2026-10-21
- 「空白输入框的隐性成本」:当操作负担经由语言重新回到用户身上 — _AustinCalvert_ · 2026-10-21
- DeepMind 论文:自进化 Agent 学新任务最快,忘掉旧知识也最多 — rohanpaul_ai · 2026-10-21
- arXiv 原文:《自进化 Agent 是持续学习者吗?》——可塑性代价是稳定性 — rohanpaul_ai · 2026-10-21
- PM OS、Team OS、Company OS:三层 AI 工作系统怎么搭、先搭哪个 — aakashgupta · 2026-10-21