前 OpenAI 安全研究员 Neil Chowdhury 加入 Thinking Machines 做安全与对齐
ChowdhuryNeil · x · 2026-09-15
曾在 MIT、OpenAI、Transluce 从事 AI 安全研究的 Neil Chowdhury 宣布加入 Thinking Machines,负责安全与对齐工作。
- 核心担忧:AI 能力越强,控制权越集中于少数公司,即便对齐问题解决,权力集中仍是重大风险
- 他主张去中心化:模型权重开放、让使用者共同塑造 AI,而非只靠中心化服务监管
- 承认这会让安全更难:开放权重削弱了依赖中心化控制的防护,构建不依赖中心化控制的安全机制是当前被忽视的关键问题
所属事件:Neil Chowdhury 加盟 Thinking Machines 主攻安全与对齐(6 条相关)→
「漫话AGI」频道最新
- Walden Robotics CTO：通用机器人操作正迎来「GPT 时刻」 — adnothing · 2026-10-30
- 开发者不会被 AI 淘汰,只是角色在变——历史规律如此 — DavidLinthicum · 2026-10-30
- 高盛：AI 将消灭近 1500 万个美国就业岗位 — saibharadwaj · 2026-10-30
- Stripe 代币支出占 OpEx 1%,多头称数字劳动力真实可期 — zephyr_z9 · 2026-10-30
- Amazon 封杀购物 Agent,这 11 家零售商敞开大门 — thisiskp_ · 2026-10-30
- 研究者称大厂员工明知「对齐无解」却因话语禁忌不敢直说 — danfaggella · 2026-10-30