罗马宣言警告：AI 不应无人监管地递归自改进
DavidSKrueger · x · 2026-07-22
引用内容主张：任何政府都不应允许 AI 系统进行“全自动递归自我改进”，除非具备监控能力，并且在必要时能够中止系统。作者则感叹这种话本不该需要被反复提醒，反映出 AI 治理与可控性问题在安全讨论中的核心地位。
「漫话AGI」频道最新
- Apollo 首席经济学家：AI 对科技巨头之外的企业零财务回报 — rseroter · 2026-10-27
- OpenAI 收购 Orchestra Bio,AI agents 进军药物研发 — dl_weekly · 2026-10-27
- 休息是否让 AI 更高效?信息论视角之争 — EpistemicHope · 2026-10-27
- 学者争论：现行 LLM 远超 GPT-4，但期刊审稿延迟挡住了新模型 — DeryaTR_ · 2026-10-27
- 「AI 休息后干活更好」:Transformer 里真有休息的机制吗? — EpistemicHope · 2026-10-27
- Venkatesh Rao 新文:学会驾驭你自己的大脑 — jger15 · 2026-10-27