前 OpenAI/Anthropic 预训练研究员辞职:两家公司在豪赌超级智能
emax · x · 2026-09-10
一位在 OpenAI 和 Anthropic 做了三年预训练研究的研究员宣布当天从 Anthropic 辞职,称两家公司都没有负责任地行事,正在直冲自我改进的超级智能、「拿我们的生命做赌注」。
tinygrad(George Hotz)转发并表态反对叫停,称「停止不是选项」,尽快把技术最广泛地分发出去才是最好选择,「总比只握在多年来操纵你们的科技公司手里强」。研究员表示稍后会发布更多想法。
所属事件:Anthropic对齐负责人称AI十年灭世概率超10%，研究员同日辞职(89 条相关)→
「漫话AGI」频道最新
- 不必是 EA 或 Yudkowsky 派也能认真讨论 AI 存在性风险 — Dr_Atoosa · 2026-09-10
- Gallup 调查:21% 美国人因被医生忽视而转向 AI 咨询健康问题 — pshrink · 2026-09-10
- AI Futures Project 的 Kokotajlo 做客 Joe Rogan 谈 AI 未来 — DKokotajlo · 2026-09-10
- 对齐研究者警告：超级智能若无稳健对齐，人类可能永久失去控制 — serrjoa · 2026-09-10
- 专家警告：超级智能若缺乏对齐，人类可能永久失控 — JacquesThibs · 2026-09-10
- Every 专栏:AI 自动化将把经济从租旧知识转向造新知识 — danshipper · 2026-09-10