Wired 报道 Trillium Labs:把递归自我改进等高危研究做在阳光下
nordicinst · x · 2026-10-03
WIRED 报道了 Nathan Lambert 与 Tom Zick 创立的非营利机构 Trillium Labs，主张以公开透明的方式做高风险 AI 研究。
- 与多数前沿实验室把危险研究锁在内部不同，Trillium Labs 选择公开研究细节，让外部科学家研究并复现
- 研究方向包括递归自我改进（RSI）、智能体等潜在高风险领域
- Lambert 认为前沿实验室的封闭做法削弱了社区审视与贡献新方法的能力，「当前前沿 AI 的封闭路线是人类的一次倒退」
- 文章对比了 OpenAI、Anthropic 等仅通过 API 提供访问的封闭模式与其他路线
这实质上是一场关于「透明能否成为安全机制」的路线实验：用科学方法与公开审视替代封闭管控。
「公司和人」频道最新
- 73 人投票评 AI 新创实验室人才密度，Core Automation 居首 — matanSF · 2026-10-03
- Nat Lambert 联合创办非营利 Trillium Labs,押注前沿 AI 开放科学 — natolambert · 2026-10-03
- agent 原生沙盒公司月均增长 50.9%,团队仍不到 30 人 — pzakin · 2026-10-03
- Together AI 产品团队公开团队级 AI 工作流:共享上下文仓库 — togethercompute · 2026-10-03
- Runway AI 峰会收官，Labs 推出新项目 Continuum — runwayml · 2026-10-03
- Beverly Hills 学区成立 AI 工作组，学生与教师共同制定课程 — lmoroney · 2026-10-03