仅用正例自举后训练:235B 模型写出与人类难以区分的科学文本
AllThingsApx · x · 2026-11-12
andrewwhite01 团队提出一种只从正例出发的自举式后训练方法,不需要负样本或对比数据,即可持续提升模型能力。
- 已在算术、分子结构、科学写作三类任务上验证有效
- 配图展示了训练前后(step 0 vs step 2000)模型在 NIH 基金申请书写作上的推理与答案演化:从泛泛套话变为具体、有假设驱动的表述,并总结出「基于已有发现构建论证」「设计实验排除替代解释」等训练中自发涌现的策略
- 用该方法训练了一个 235B 的 LLM,其写作被称与人类文本难以区分
「研究」频道最新
- 开源个性化 mRNA 癌症疫苗设计:为胰腺癌患者 Yash 而做 — xennygrimmato_ · 2026-11-12
- Georgia Tech 教授 Molei Tao 招收扩散语言模型方向博士生与博后 — gautamcgoel · 2026-11-12
- HF 研究员主张用效率增益指标取代最终 benchmark 分数 — eliebakouch · 2026-11-12
- 研究者提议:AI 进展评估应报告效率增益指标,而非只看最终跑分 — eliebakouch · 2026-11-12
- RoboCap-10k 发布:1 万小时带度量动作的开放式机器人数据集 — databoydg · 2026-11-12
- Google Research 用可穿戴设备做心血管-肾-代谢风险画像与个性化健康指导 — Google Research · 2026-11-12