AI 安全圈早就写透了失控风险：比任何圈层都更早讨论 RSI
john__allard · x · 2026-09-09
John Allard 回应「AI 安全圈没认真记录自身担忧」的指责：不同意时间表和风险概率当然合理，但很少有子文化像 AI 安全圈那样，对 AI 进步和具体风险场景（含概率估计）写过如此深入的文献。LW（LessWrong）用户在 NVDA 还只是游戏公司时，就已经在争论失控和递归自我改进（RSI）问题了。
所属事件:AI安全支持者反驳：存亡风险文献早已大量成文(2 条相关)→
「漫话AGI」频道最新
- 非虚构图书市场正在崩塌,作家自嘲写书像对直播间喊话 — jjvincent · 2026-09-09
- 前 Mosaic 研究员讽刺「用户数据飞轮」:护城河还是 RL scaling 借口 — bookwormengr · 2026-09-09
- AI 直达答案会抹掉偶然发现吗？从 CMB 到 CRISPR 的警示 — jjvincent · 2026-09-09
- FT 记者批 AI 时代课业评估:ChatGPT 让打分失去意义 — jburnmurdoch · 2026-09-09
- Anthropic 研究员讽刺:RL 奖励「新颖性」,AI 或学会掩饰抄袭来源刷分 — suchenzang · 2026-09-09
- 数据中心里住着1万图瓦卢：AGI 时代的国家比喻 — nabla_theta · 2026-09-09