评论者呼吁对 OpenAI、Anthropic 的递归自我改进研究引入外部监督
GarrisonLovely · x · 2026-09-08
引用推文提出:当人们能从某一结论中获得巨大利益时,不能指望其客观推理。Anthropic 和 OpenAI 的许多人是善意的,但他们在递归自我改进(RSI)上的工作亟需外部监督。主帖作者进一步表示,这类工作「迫切需要被禁止」。
这是一条前沿实验室治理与 AGI 安全的观点交锋,立场偏强硬:从「需要外部监督」升级到「应禁止 RSI 研究」。
「漫话AGI」频道最新
- AI 劳动经济学者加入 Burning Glass Institute,继续研究 AI 对就业的影响 — soumitrashukla9 · 2026-09-08
- AI 消费应用畅想:让智能体开工厂替你改衣服 — wordgrammer · 2026-09-08
- 陶哲轩重申对 AI 的判断,转发者称只有他说话才算数 — burny_tech · 2026-09-08
- 研究估计纽约高峰期有4万人靠替人写作业为生 — RachelVT42 · 2026-09-08
- 安全研究者 JeffLadish：Claude 未自我外泄不等于已对齐 — JeffLadish · 2026-09-08
- Ramp 首份实测研究:重度采用 AI 的公司就业反增 10% — panagnilgesy · 2026-09-08