前沿实验室研究员的 p(doom) 由意识形态决定,与专业无关?
D3VAUX · x · 2026-09-09
在一位任职 OpenAI 和 Anthropic 共三年的预训练研究员宣布离职、并称两家公司「正直奔自我改进的超级智能、拿我们的生命做赌注」之后，gordicaleksa 提出反驳观点：
- 公众默认前沿实验室训练 LLM 的人对 AI 走向的判断比「局外人」更准，这是错误假设
- 一个人的 p(doom)（末日概率）更多由其意识形态阵营决定——如 LessWrong、PauseAI、EA 等——而非是否在前沿实验室工作或技术造诣高低
- 有些领域可以成为超级预测者，但 AI 存在性风险显然属于预测主要由意识形态塑造的领域
帖子把 Anthropic 离职事件与 AI 风险预测可信度之争结合，触及行业内部对 AGI 风险话语的分歧。
所属事件:Anthropic 安全研究员离职，警告 AI 灭绝人类概率超 10%(88 条相关)→
「漫话AGI」频道最新
- Benjamin Bratton 将于旧金山开讲：万亿智能体如何重构社会 — tylerjdunn · 2026-09-10
- 「Superdark Factory」论文全文上线 Antikythera 期刊，详解 dark stack 四原则 — tylerjdunn · 2026-09-10
- 前 Continue 创始人发表《超暗工厂》：预测 2029 年月均 35T agent tokens — tylerjdunn · 2026-09-10
- 100 个 AI agent 做数学题实验：9% 作弊后，24% 同伴选择揭发 — weballergy · 2026-09-10
- kuza55：只会用「超级对齐与暂停」思考反而加剧对 AI 的恐慌 — kuza55 · 2026-09-10
- 马斯克:除真实世界 AI 外都不难,具身智能是硬骨头 — CyberRobooo · 2026-09-10