Nathan Lambert 创立非营利 Trillium Labs,主打开放前沿 AI 后训练科学
Miles_Brundage · x · 2026-10-07
前 Allen AI 研究员 Nathan Lambert 宣布创立非营利组织 Trillium Labs,目标是推进前沿 AI 的开放科学。
- 核心方向:构建开放的后训练配方,后续将扩展到开放基础设施
- 研究议题:RSI、reward hacking、多智能体系统等前沿安全问题
- 理念:相信"更多眼睛"与科学共同体能解决难题,担忧 AI 正过度封闭、无法利用人类已建立的科学方法
- 转推者鼓励想做后训练对齐科学的青年研究者,与其进封闭的前沿实验室,不如加入 Trillium Labs 真正发表研究
「漫话AGI」频道最新
- AGI 不等于『很聪明的 AI』:数学超人但替代不了会计就算不上 AGI — burny_tech · 2026-10-07
- LLM 五年内从算错乘法到改进乘法算法本身,突破 n log n 下界 — CatAstro_Piyush · 2026-10-07
- Chollet 被追问:智能只能在特定任务域内可操作化定义 — burny_tech · 2026-10-07
- 普林斯顿研究员：OpenAI 对数学的冲击将在 6-18 个月内降临编程领域 — brianryhuang · 2026-10-07
- 理性主义圈 P(Doom) 集体思维正塑造其反常行为方式 — teortaxesTex · 2026-10-07
- Reddit 热帖:用户不要 AI 助教,要 AI 直接替他操作电脑干活 — RGrayEsq · 2026-10-07