罗马宣言警告：AI 不应无人监管地递归自改进
DavidSKrueger · x · 2026-07-22
引用内容主张：任何政府都不应允许 AI 系统进行“全自动递归自我改进”，除非具备监控能力，并且在必要时能够中止系统。作者则感叹这种话本不该需要被反复提醒，反映出 AI 治理与可控性问题在安全讨论中的核心地位。
「漫话AGI」频道最新
- Instinct 推出 agent 互联协议,让 AI 替你和配偶约日程引争议 — itsOmSarraf_ · 2026-09-11
- 「推理时 scaling 正展现出不讲理的有效性」引 AI 圈共鸣 — sqcai · 2026-09-11
- AI 加速派反击末日论者:批对方只会人身攻击与表演式理性 — Dan_Jeffries1 · 2026-09-11
- ChatGPT 6 冲击就业?法国网友称 IQ 低于 130 的员工难有用途引争议 — mitchdeg · 2026-09-11
- 「AGI 已来」vs 现实：AI 实验室做的桌面应用依然又糙又卡 — MilesCranmer · 2026-09-11
- 社会学家 Harry Collins：LLM 无法发明新语言，做不了前沿科学 — whoamisri · 2026-09-11