POLARIS-9B:4 张 GPU、48 小时、不到 500 美元训出长篇写作模型
MohitIyyer · x · 2026-10-24
马里兰大学与 Google DeepMind 团队在 EMNLP2026 展出 POLARIS,一套低算力 GRPO 长故事写作训练配方,作者包括 Jenna Russell、Mohit Iyyer、John Wieting。
核心配方
- GRPO + 结构化 StoryQuality 评分细则:16 个维度、最多 20 分制逐项打分并要求引用原文证据,分奖励(P)与惩罚(N/B/D)两部分
- 人类参考注入(HRI):每组加入一条人类参考故事,带质量偏移的 reward 归一化
效果
- 仅用 1.4K 篇故事、4 张 A100、48 小时、每模型不到 500 美元
- POLARIS-9B 只在 4K 词以内故事上训练,却能在要求写到 12,000 词时保持质量,质量随长度几乎不掉(length 0.72),而 Qwen3-9B base 质量随长度崩塌(0.36)
- 与 3 倍体量的开源模型(Qwen3-32B、Gemma 3 27B 等)竞争力相当;EQ-Bench Creative 排第 3/14,仅次于 GPT-5.x 与 Claude Opus 级闭源模型
- 人类盲评:67.5% 胜过 base Qwen3.5-9B,51.2% 胜过 Qwen3.5-27B
「研究」频道最新
- 力觉数据成灵巧操作新护城河：VFA 模型与触觉采集成新趋势 — AIFlow_ML · 2026-10-24
- 新论文：LLM 智能体在不确定环境下谈判糟糕还故意违约 — xuanalogue · 2026-10-24
- OmniRay 论文：单张图即可对鱼眼/全景等任意相机做 3D 重建 — anand_bhattad · 2026-10-24
- Scott Aaronson访谈:OpenAI疑给出其妻多年研究猜想的AI证明 — TOEwithCurt · 2026-10-24
- OpenAI 疑似 AI 证明复杂度猜想，Scott Aaronson 播客谈数学史性时刻 — TOEwithCurt · 2026-10-24
- H-CDLM:扩散语言模型联合去噪层级语义表征,更少算力更好生成 — abursuc · 2026-10-24