前 OpenAI 安全研究员 Neil Chowdhury 加入 Thinking Machines 做安全与对齐
ChowdhuryNeil · x · 2026-09-15
曾在 MIT、OpenAI、Transluce 从事 AI 安全研究的 Neil Chowdhury 宣布加入 Thinking Machines,负责安全与对齐工作。
- 核心担忧:AI 能力越强,控制权越集中于少数公司,即便对齐问题解决,权力集中仍是重大风险
- 他主张去中心化:模型权重开放、让使用者共同塑造 AI,而非只靠中心化服务监管
- 承认这会让安全更难:开放权重削弱了依赖中心化控制的防护,构建不依赖中心化控制的安全机制是当前被忽视的关键问题
所属事件:前OpenAI安全研究员Neil Chowdhury加盟Thinking Machines(3 条相关)→
「漫话AGI」频道最新
- AI 为什么不能有意识?Reddit 长帖引发讨论 — Successful-Lie1603 · 2026-09-15
- Dario 呼吁第三方评估前沿模型,但 AI 安全与网络安全界互相看不顺眼 — joshua_saxe · 2026-09-15
- Reddit 热议：模型不能持续学习就谈不上 AGI — Monochrome21 · 2026-09-15
- 1.3 万字长文：OpenAI 智能体失控事件应按"常规技术"框架审视 — agstrait · 2026-09-15
- NYU 哲学家谈 AI 福利：如何让 AI 自身也能"繁荣" — soumitrashukla9 · 2026-09-15
- 研究员 argued:把 AI 当普通技术严监管,反而最能降风险 — agstrait · 2026-09-15