罗马宣言警告：AI 不应无人监管地递归自改进
DavidSKrueger · x · 2026-07-22
引用内容主张：任何政府都不应允许 AI 系统进行“全自动递归自我改进”，除非具备监控能力，并且在必要时能够中止系统。作者则感叹这种话本不该需要被反复提醒，反映出 AI 治理与可控性问题在安全讨论中的核心地位。
「漫话AGI」频道最新
- ARC AGI 3 应该保持私有，不该公开示例和数据集 — flowersslop · 2026-07-27
- AI 让知识更便宜，判断力仍是稀缺能力 — _jaydeepkarale · 2026-07-27
- 一条回复质疑：聪明只是优势的一部分 — binarybits · 2026-07-27
- Chollet 一句话又引发了智能是否边际递减的讨论 — binarybits · 2026-07-27
- Chollet 认为智能可能有硬上限，AI 进步会趋于边际递减 — binarybits · 2026-07-27
- Burkov 认为，让 LLM 优化下一代 LLM 还不是奇点 — burkov · 2026-07-27