davidad 对峙 Richard Ngo:先做 agent foundations 还是先影响人类机构?
davidad · x · 2026-09-03
安全研究者 davidad 用一段对仗式对话点出 AI 安全界的路线之争:MIRI 认为该领域太混乱、做不好 agent foundations,应先影响人类机构;Richard Ngo 则反称影响人类机构这件事本身做得太混乱,应先解决 agent foundations。两条互为镜像的立场,精准呈现了 alignment 社区「技术优先 vs 制度优先」的僵局。
「漫话AGI」频道最新
- AI 高手谈下一波影响:把工作流拆成可验证任务,刻意使用胜过随手用 — hermanschutte · 2026-09-03
- 卫报播客：坐牢20年后，Gemini 的一条邀请改变了他的人生 — nordicinst · 2026-09-03
- AI 自主风险 2023 年预测复盘：agent 化与无人监控全中 — davidmanheim · 2026-09-03
- Patterson 提议对 AI 公司收入征统一销售税 — rand_longevity · 2026-09-03
- 不同派系的 AI 安全观殊途同归：都是集中管控与审查 — mark_k · 2026-09-03
- 研究者警告未来智能未必服务于人类,遭全网群嘲 — danfaggella · 2026-09-03