Nathan Lambert 发布后训练六大开放问题讲稿,并阐明 Trillium Labs 目标
natolambert · x · 2026-11-21
AI 研究者 Nathan Lambert(Trillium Labs 执行总监)在康奈尔大学演讲后公开了一份 51 页幻灯片,梳理后训练(post-training)领域最大的开放问题及其演化历程,结尾还讨论了 RSI 如何改变这类研究。
他目前关注的研究方向包括:
- Harness 专门化设计——如何设计面向上下文管理的环境,支持新的 LLM 使用范式;
- 性格训练——如何塑造模型个性,及其对安全、信任与模型扩散的影响;
- 开源 RL 环境——如何构建可扩展的开放数据方法;
- RL 中的推理效率——如何控制与调节 LLM 的推理效率;
- RL 缩放律——如何为大规模后训练设计有原则的实验方法;
- 多智能体缩放律——多 LLM 系统与协作的主要研究轴是什么。
他欢迎正在开源方向上做这些工作的人保持联系,视频版稍后重录发布。
「漫话AGI」频道最新
- AI 假「证明」争议发酵:批评者称虚假突破正摧毁学界研究动力 — teortaxesTex · 2026-11-21
- AI 辅助证明黎曼猜想疑被拒菲尔兹奖,引发数学界激烈争论 — GiorgioPatrini · 2026-11-21
- AI 安全圈人士反思:不该用最极端声音概括整个 AI 伦理社区 — S_OhEigeartaigh · 2026-11-21
- Gary Marcus 讽刺科技投资人亏惨后仍死抱黎曼猜想 AI 结果不放 — GaryMarcus · 2026-11-21
- 数学家炮圈:AI 解题争议背后的数学界守门文化该背锅 — IAmTimNguyen · 2026-11-21
- Robert Wright 谈 AI:别等灾难发生才建全球治理机制 — SpencrGreenberg · 2026-11-21